Не только угроза, но и возможности: эксперты обсудили проблемы использования AI-контента
Количество дипфейков во всем мире быстро растет, рассказал на форуме «Диалог о фейках 3.0» директор департамента разработки и поддержки цифровых сервисов АНО «Диалог» Владимир Киселев. Он сослался на данные Pindrop, согласно которым, количество дипфейков в 2024 году выросло на 680%. А по прогнозам Keepnet, число поддельных видео увеличится с 500 тысяч в 2023 году до 8 млн в 2025-м.
«Нейросети нового поколения создают мультимодальный контент с синхронизированными аудио и текстом, неотличимый от реальности. Это приводит к эрозии доверия к информации в целом. Мы уже сталкиваемся с кейсами, когда реальные видео воспринимаются как фейковые, и наша задача сегодня — найти ответ на этот системный вызов», – отметил директор департамента разработки и поддержки цифровых сервисов АНО «Диалог» Владимир Киселев.
Дипфейки активно используют не только для создания социально чувствительных фейков, но и с целью незаконного обогащения, отмечает исполнительный директор Департамента Кибербезопасности ПАО Сбербанк Анастасия Горохова.
«Чаще все такие дипфейки носят элементы социальной инженерии. С помощью поддельного видео мошенники могут войти к человеку в доверие и в дальнейшем принудить его поверить в какие-то провокационные заявления или похитить его деньги», – заявила Горохова.
Появление новых моделей для генерации синтетического видеоконтента нужно сопровождать разработкой более совершенных инструментов для его выявления, убеждены эксперты. Значение программ для выявления дипфейков сложно переоценить: с развитием ИИ определить поддельный контент «на глаз» становится все более сложной задачей даже для специалистов, не говоря уже об обычных пользователях. Такие признаки, как несовпадение голоса и движения губ, логические ошибки и другие подобные маркеры фейков постепенно уходят в прошлое.
Кроме того, важно убрать пробелы в законодательстве, чтобы иметь возможность наказывать распространителей фейк
Борьба с поддельными видео социального значения ведется по всему миру. В Европе могут оштрафовать за ИИ-контент без соответствующей маркировки. Работа над регулированием использования синтетических роликов ведется в Китае, Индии, а также в отдельных штатах США. В России также готовится законопроект, направленный на установление ответственности за распространение дипфейков. Однако при этом важно соблюдать чувство меры.
Депутат Госдумы Антон Немкин выступил за баланс между развитием технологий и регулированием их использования со стороны государства.
«AI-контент – это не только угроза, но и возможности, – напомнил Немкин. – Поэтому нужно выстроить государственно-частное партнерово и выработать подход к противодействию этой опасности. Нам в глобальном масштабе нужен простой рабочий метод, который будет выявлять большинство подобных угроз».