В России создали высокоточный детектор дипфейков в соцсетях
Разработка компании МТС выявляет поддельный контент с высокой точностью
Российская компания «МТС Web Services» презентовала инновационный детектор дипфейков. Новая система, по словам разработчиков, способна распознавать поддельные видео, сгенерированные современными ИИ-моделями, с точностью до 98%.
Программа МТС анализирует изображение и звук. Для проверки видео используется детектор от VisionLabs, а для анализа аудиодорожки — собственная модель MWS AI. Её учат на реальной человеческой речи, а потом - на синтетических записях. Так нейросеть понимает признаки искусственного голоса.
Тестирование детектора уже идет на платформе для видеоконференций «МТС Линк», в сервисе «Защитник», блокирующем звонки от мошенников, в госсервисе и нескольких банках.
Разработка особенно актуальна сейчас, так как поддельные видео и аудиосообщения часто используются мошенниками, чтобы ввести в заблуждение. Кроме того, такие ролики распространяют по сетям, чтобы посеять панику в обществе, например, с заявлениями политиков или выдуманными катастрофами. Без мощного детектора отличить контент, созданный современными нейросетями, почти невозможно.
Разработка МТС решает эту проблему и развивается на перспективу. Как отметил генеральный директор MWS Павел Воронин, обучение детектора для работы с новейшими моделями популярных контент-сервисов заняло всего две недели.
Разработка МТС становится щитом против массовых манипуляций и распространения недостоверной информации.
