«Любая нейросеть дает только 85% достоверной информации»: эксперты назвали плюсы и минусы нейросетей
О преимуществах и недостатках использования искусственного интеллекта рассказали эксперты в рамках сессии «Диалог с ИИ: как убедить нейросеть говорить только правду?» на форуме «Диалог о фейках 2.0».
По прогнозам, ущерб от кибермошенничества в 2024 году составит около 250 миллиардов рублей, рассказал директор Департамента противодействия мошенничеству ПАО «Сбербанк» Сергей Велигодский. Потери россиян от мошенников за последние два года выросли больше чем в два раза. Этому активно способствуют новые технологии изменения голоса, лица, а также умение с помощью нейросетей подстраиваться под особенности речи для обмана потенциальной жертвы.
«Колл-центры мошенников из соседнего недружественного государства представляют серьезную угрозу и вызов для нашей страны. Если сначала граждан заставляли переводить деньги с карт, то сегодня их толкают на акты терроризма и вандализма», — отметил Сергей Велигодский.
Особую опасность представляют технологии дипфейков и изменения голоса при создании контента, мимикрирующего под реальные СМИ. Ведущий программы «Антифейк» на Первом канале Александр Смол поделился примером такой манипуляции и показал, как злоумышленники сделали на него дипфейк, который впоследствии был разоблачен.
Директор по цифровому развитию ТАСС Кирилл Сидоров рассказал, что на базе информационного агентства создается нейросеть, которая сможет отвечать на вопросы читателей, генерируя ответы на основе архива и фотобазы ТАСС:
«ТАСС имеет собственную верифицированную базу и крупнейший архив фотографий, каждая из которых имеет порядка 700 метаданных для верификации. Поэтому мы всегда можем подтвердить источники информации. Такая нейросеть будет опираться на конкретные факты. Любая современная нейросеть дает лишь 85% правдивой информации».
Также эксперты поделились примерами позитивного использования нейросетей. Специалист в области геополитики и кибербезопасности, журналист Geopolitics360 Лили Онг (Сингапур) рассказала о случае из сферы медицины — мужчине, больному боковым амиатрофическим склерозом, создали «клон» голоса с помощью технологии дипфейка. Теперь он может разговаривать без «металлического роботизированного звука».
Руководитель по работе с госсектором компании «Билайн» Валерия Куркина отметила, что государство применяет ИИ для решения ключевых задач. В сфере ЖКХ технологии используются для оперативного мониторинга операторов площадок, в транспорте — для борьбы с нарушениями ПДД и профилактики.