Эксперт по дипфейкам Хани Фарид предупреждает о росте качества нейросетевых подделок и снижении эффективности детекции

Профессор криминалистики из Калифорнийского университета в Беркли Hany Farid заявил о резком усложнении задач по выявлению дипфейков на фоне стремительного развития генеративных нейросетей.

По его оценкам, современные алгоритмы синтеза видео и аудио достигли уровня, при котором визуальные и звуковые артефакты становятся всё менее заметными, а классические методы проверки подлинности теряют эффективность. В результате, по словам эксперта, даже специалисты с большим опытом могут ошибаться при анализе контента.

Отмечается, что разрыв между технологиями генерации и инструментами детекции продолжает увеличиваться: создание реалистичных поддельных материалов становится быстрее и дешевле, чем их надежная верификация.

В качестве примера указываются случаи финансового мошенничества с использованием синтетического видео и голосовых подделок. В частности, упоминается инцидент с участием инженерной компании Arup, где, по данным расследований, злоумышленники использовали сгенерированные аудио- и видеоматериалы для проведения мошеннической схемы, приведшей к значительным финансовым потерям.

Эксперты подчеркивают, что рост качества дипфейков повышает риски для бизнеса и государственных структур, а также требует развития новых методов цифровой верификации и многофакторной проверки источников информации.