В России виртуальный помощник «Ева» не хочет разговаривать с дипфейками
Виртуальный секретарь «Ева» научилась распознавать синтезированные голоса и предупреждать об этом абонента
В России ассистент от «МегаФона» может прямо во время разговора предупредить абонента, что собеседник – робот или его голос подделан нейросетью. Виртуальный помощник способен проанализировать звук по множеству параметров, а многофакторная модель определяет признаки синтезированной речи. Причём «Ева» распознаёт как безобидных, хотя и назойливых роботов (например, тех, кто звонит сообщить о доставке), так и мошеннические дипфейки. Чаще всего злоумышленники подделывают голоса близких, начальников или знаменитостей, чтобы обмануть человека.
За кулисами звонка
Если ассистент заподозрит, что голос на том конце провода синтезированный, он сразу предупредит абонента. Одновременно система ищет признаки мошенничества. При их обнаружении «Ева» сразу разрывает звонок. Искусственный интеллект работает в реальном времени: если появляются опасные паттерны, помощник сообщает об угрозе и отключает вызов.
Важно, что синтезированная речь не всегда означает обман. Робот из службы доставки или сервиса уведомлений не несёт угрозы. «Ева» отличает таких безобидных роботов от злонамеренных и не прерывает с ними разговор.
