ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%

В рамках форума «Диалог о фейках», который 22 ноября провел в Москве АНО «Диалог Регионы», состоялась профильная секция «Уникальные ИТ-решения для борьбы с недостоверной информацией и генеративными фейками», посвященная обсуждению современных вызовов, связанных с распознаванием и противодействием дипфейкам

За последние несколько лет качество генеративного контента улучшилось, а стоимость его производства значительно снизилась. Соответственно, развивать системы детекции становится все сложнее и дороже, поэтому необходимо консолидировать усилия различных акторов для развития этих систем и моделей. Об этом заявил Сергей Маклаков, руководитель отдела аналитического обеспечения Управления по противодействию распространению недостоверной информации АНО «Диалог Регионы».

«Зефир» — это система мониторинга, разработанная АНО «Диалог Регионы», для анализа и мониторинга сфабрикованного аудиовизуального контента, в том числе дипфейков, на основе сочетания моделей машинного обучения.

«Точность “Зефира” составляет 81%. Это динамичный показатель, который сложно поддерживать, так как появляются новые типы атак», — подчеркнул Сергей Маклаков.

Любая система детекции должна совмещать несколько решений, считает эксперт. Так, функционал системы «Зефир» обеспечивает комплексную оценку материала: распознавание дипфейков, анализ спуфинга голоса, транскрибирование и перевод аудио, поиск дубликатов и первоисточников, детекция персон на видео- и аудиозаписях, а также определение съемки на хромакее. При этом анализ текста с помощью ИИ позволяет определить вероятность фейка.

Директор по развитию бизнеса ООО «Центр речевых технологий» Олег Глебов также убежден, что к оценке дипфейков необходимо подходить комплексно, поэтому важно развивать мультимодальный подход при разработке систем выявления генеративного контента.

Участники круглого стола также затронули вопрос значения технологии: дипфейк — источник угроз или перспективный инструмент. Точки зрения экспертов разделились. О позитивных примерах применения дипфейков рассказал CEO Agenda Media Group Алексей Парфун.

«К 2025 году ваша виртуальная копия сможет примерить любую одежду в онлайн-магазине, поучаствовать в интерактивном фильме или стать персонажем компьютерной игры», — рассказал эксперт. Также он обратил внимание, что в вопросе использования образов реальных людей для создания дипфейков существует этическая неопределенность.

Влияние алгоритмизирующего контента на человека в ходе круглого стола разобрал Михаил Канавцев, руководитель проекта «Мастерская новых медиа», к.э.н. Он отметил, что воздействие такого контента направлено на логику, стереотипы и ценности пользователя. При этом эксперт выразил мнение, что киберпространство нельзя рассматривать как бизнес-пространство. «Выделение киберпространства как нового типа среды требует выработки принципиально новых наступательных и оборонительных инструментов», — считает Михаил Канавцев.

Кроме того, в круглом столе приняли участие представители ИТМО, ФГУП «НИИ Квант», ФКУ НПО «СТиС» МВД России и ФГУП «ГРЧЦ». Борьба с дипфейками требует скоординированных действий со стороны правительств, компаний и общественности. Форум «Диалог о фейках» стал платформой для обмена идеями и опытом, необходимыми для разработки и внедрения эффективных решений в этой области.

ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%
ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%

Смотрите также

Кто такие социальные архитекторы?
Гендиректор АНО «Диалог» и АНО «Диалог Регионы» Владимир Табак рассказал о роли таких специалистов
«Диалог» представил исследование уровня онлайн-коммуникации органов государственной власти за III-IV квартал 2024 года
В тройку цифровых лидеров среди федеральных ведомств вошли Минздрав, Минэкономразвития и Социальный фонд России
Заявка на регистрацию Международной ассоциации по фактчекингу подана в Минюст РФ
Заявку на регистрацию в Минюсте РФ Международной ассоциации по фактчекингу Global Fact-сhecking Network (GFCN) отправили во вторник, 24 декабря, соучредители организации — Информационное агентство России ТАСС, АНО «Диалог Регионы» и АНО «Мастерская новых медиа». Меморандум о создании Международной ассоциации по фактчекингу был подписан 22 ноября на форуме «Диалог о фейках 2.0» в Москве.
Главная тема IGF 2024 — борьба с фейками
В Саудовской Аравии прошел 19-й Форум ООН по управлению интернетом (IGF 2024), посвященный теме «Создание нашего многостороннего цифрового будущего». Одной из центральных тем стала проблема распространения фейков.