В России разработали систему для распознавания голосовых дипфейков

В НИЯУ МИФИ разработали систему «Сипуха» — нейросетевую технологию для обнаружения голосовых дипфейков (подделанных голосовых записей), предназначенную для защиты от мошеннических звонков. Основу системы составляет нейросеть, которую обучили с помощью более чем 200 000 аудиофайлов, включая реальные голоса и сгенерированные подделки.

Укрепление национальной информбезопасности

«Сипуха» получила свое название в честь птицы с исключительным слухом. Выявление поддельных записей происходит за 20-40 микросекунд благодаря анализу кепстральных коэффициентов. Разработки по защите от видеодипфейков и определению синтеза речи появлялись и ранее, но именно наземной системы типа «Сипуха» в открытых публикациях не зафиксировано. Это усиливает инновационность проекта.

 Запуск системы влечет за собой снижение риска мошенничества по телефону и повышение доверия к голосовым коммуникациям. Кроме того, технология защищает критические сервисы, такие как колл‑центры, банки и госслужбы, от злоупотреблений.

Проект говорит об укреплении национальной информационной безопасности и развитии отечественных AI‑решений. В глобальной перспективе подобные технологии интересны мировому рынку, особенно там, где усиление безопасности голосовой связи является приоритетом.

Создание исследовательской лаборатории

У системы есть потенциал для интеграции в решения иностранных операторов, банков, колл‑центров. Возможна коммерческая лицензия облачного сервиса за пределами России, если учитывать вопросы доверия.

Работа над «Сипухой» началась в 2022 году как академический проект. На тот момент технологии создания голосовых дипфейков были труднодоступны и требовали значительных ресурсов, поэтому подделка голосов не получила массового распространения. Первую поддержку проект получил от Фонда содействия инновациям, который помогает малым предприятиям в научно-технической сфере. Однако к 2024 году ситуация изменилась: технологии стали значительно доступнее и распространились, в том числе среди мошенников. Это придало проекту практическую значимость и открыло перспективы для коммерческого применения. Нашу систему оценили и в рамках технологического акселератора МИФИ совместно с Госкорпорацией «Росатом», где «Сипуха» вошла в число четырех финалистов из 60 участников

Дмитрий Ефанов

доцент кафедры криптологии и кибербезопасности НИЯУ МИФИ

Внутри страны в настоящее время ведется разработка облачного сервиса для интеграции в колл-центры, мессенджеры и другие коммуникационные платформы. В перспективе планируется создание исследовательской лаборатории, которая будет заниматься непрерывным совершенствованием нейросети, учитывая постоянное развитие технологий создания дипфейков.

Разработчики рассчитывают на государственную поддержку проекта от профильных ведомств Правительства Москвы. Ряд крупных российских компаний, включая Т-Банк и «Информзащита», выразили заинтересованность в использовании данного сервиса.

Борьба с дезинформацией

В мире существует множество подходов к детектированию дипфейков. В число организаций, занимающихся этой деятельностью, входит DARPA (Defense Advanced Research Projects Agency). Она разрабатывает технологии обнаружения дипфейков в рамках программы Media Forensics (MediFor). Другой пример  – Google Jigsaw, который разрабатывает инструменты для борьбы с дезинформацией, включая дипфейки. Инструменты для верификации подлинности контента предлагает и Microsoft. Например, в рамках программы Microsoft Defending Democracy Program компания работает с различными организациями и правительствами для борьбы с дезинформацией и защиты демократических процессов.

В России тоже ведутся разработки в области защиты от видеодипфейков и определения синтеза речи. Разработками в области ИИ, включая технологии анализа аудио- и видеоконтента, активно занимается Сбер. В компании есть лаборатория Sberbank AI Lab, где разрабатываются и тестируются передовые алгоритмы машинного обучения. Сильные позиции в области машинного обучения и обработки данных имеет «Яндекс». МГУ им. М.В. Ломоносова, СПбГУ и другие ведущие вузы ведут научные исследования в области искусственного интеллекта и обработки данных, которые могут быть применены для детекции дипфейков. В основе разработок лежат алгоритмы обнаружения визуальных артефактов, анализ мимики и движений, анализ характеристик голоса, обучение нейросетей на российских данных, создание ансамблевых моделей.

Ответ на реальные угрозы цифрового пространства

Детекция дипфейков – это сложная и быстро развивающаяся область, требующая постоянного внимания и инноваций. Эффективная защита от дипфейков требует использования комбинированных подходов, основанных на анализе визуальных, аудио и метаданных, а также постоянного обновления и совершенствования методов обнаружения. Для обучения эффективных моделей обнаружения дипфейков нужно большое количество размеченных данных, которые могут быть труднодоступны.

«Сипуха» — это актуальная и нужная разработка, отвечающая на реальные угрозы цифрового пространства. Технология соответствует направлениям развития отечественной AI-безопасности. В краткосрочном прогнозе ожидается смещение фокуса на тестирование и запуск облачной версии и интеграцию с системами (например, банковским сектором). В среднесрочной перспективе можно говорить о создании лаборатории, расширении обучающей выборки и улучшении модели, в долгосрочной — о возможном экспорте технологии, участии в международных проектах и стандартах по анти-дипфейку.