ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%

В рамках форума «Диалог о фейках», который 22 ноября провел в Москве АНО «Диалог Регионы», состоялась профильная секция «Уникальные ИТ-решения для борьбы с недостоверной информацией и генеративными фейками», посвященная обсуждению современных вызовов, связанных с распознаванием и противодействием дипфейкам

За последние несколько лет качество генеративного контента улучшилось, а стоимость его производства значительно снизилась. Соответственно, развивать системы детекции становится все сложнее и дороже, поэтому необходимо консолидировать усилия различных акторов для развития этих систем и моделей. Об этом заявил Сергей Маклаков, руководитель отдела аналитического обеспечения Управления по противодействию распространению недостоверной информации АНО «Диалог Регионы».

«Зефир» — это система мониторинга, разработанная АНО «Диалог Регионы», для анализа и мониторинга сфабрикованного аудиовизуального контента, в том числе дипфейков, на основе сочетания моделей машинного обучения.

«Точность “Зефира” составляет 81%. Это динамичный показатель, который сложно поддерживать, так как появляются новые типы атак», — подчеркнул Сергей Маклаков.

Любая система детекции должна совмещать несколько решений, считает эксперт. Так, функционал системы «Зефир» обеспечивает комплексную оценку материала: распознавание дипфейков, анализ спуфинга голоса, транскрибирование и перевод аудио, поиск дубликатов и первоисточников, детекция персон на видео- и аудиозаписях, а также определение съемки на хромакее. При этом анализ текста с помощью ИИ позволяет определить вероятность фейка.

Директор по развитию бизнеса ООО «Центр речевых технологий» Олег Глебов также убежден, что к оценке дипфейков необходимо подходить комплексно, поэтому важно развивать мультимодальный подход при разработке систем выявления генеративного контента.

Участники круглого стола также затронули вопрос значения технологии: дипфейк — источник угроз или перспективный инструмент. Точки зрения экспертов разделились. О позитивных примерах применения дипфейков рассказал CEO Agenda Media Group Алексей Парфун.

«К 2025 году ваша виртуальная копия сможет примерить любую одежду в онлайн-магазине, поучаствовать в интерактивном фильме или стать персонажем компьютерной игры», — рассказал эксперт. Также он обратил внимание, что в вопросе использования образов реальных людей для создания дипфейков существует этическая неопределенность.

Влияние алгоритмизирующего контента на человека в ходе круглого стола разобрал Михаил Канавцев, руководитель проекта «Мастерская новых медиа», к.э.н. Он отметил, что воздействие такого контента направлено на логику, стереотипы и ценности пользователя. При этом эксперт выразил мнение, что киберпространство нельзя рассматривать как бизнес-пространство. «Выделение киберпространства как нового типа среды требует выработки принципиально новых наступательных и оборонительных инструментов», — считает Михаил Канавцев.

Кроме того, в круглом столе приняли участие представители ИТМО, ФГУП «НИИ Квант», ФКУ НПО «СТиС» МВД России и ФГУП «ГРЧЦ». Борьба с дипфейками требует скоординированных действий со стороны правительств, компаний и общественности. Форум «Диалог о фейках» стал платформой для обмена идеями и опытом, необходимыми для разработки и внедрения эффективных решений в этой области.

ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%
ОТВЕТ ДИПФЕЙКАМ: ИННОВАЦИОННАЯ СИСТЕМА «ЗЕФИР» ВЫЯВЛЯЕТ ГЕНЕРАТИВНЫЙ КОНТЕНТ С ТОЧНОСТЬЮ 81%

Смотрите также

По итогам программы «ШУМ.Медиатехнологи» решили запустить в РФ реалити-шоу для предпринимателей
4 октября на Всероссийском молодёжном форуме «ШУМ» в Калининградской области стартовала образовательная программа «ШУМ.Медиатехнологи», которую совместно разработали «Диалог» и «Мастерская новых медиа».
«Доверие жителей к диалогу с муниципальной властью в интернете растет»
Развитие Муниципальных центров управления обсудили в рамках дискуссии, приуроченной к старту второй волны обучения по программе «Школы мэров».
Взаимное обучение — актуальный тренд в образовании взрослых
На HR-конференции «Human. Обучение персонала» начальник отдела образования АНО «Диалог Регионы» Арина Аседова рассказала о практиках внедрения трендов сферы образования внутри компании
В 2024 году влияние женщин в медиапространстве усиливается
Роль женщин в развитии информационного пространства обсудили на IV Евразийском женском форуме