В России научили нейросети «забывать» лица людей
Российские разработчики представили технологию, которая окончательно удаляет биометрический след человека из памяти системы распознавания лиц.
Специалисты ИТ-компании «Криптонит» создали метод, который убирает цифровой образ конкретного человека из памяти нейросети. Технология связана с правом на забвение и помогает отозвать согласие на использование биометрических данных. При этом алгоритм продолжает корректно распознавать данные других пользователей.
Ненадежный «ластик»
В существующих системах распознавания лиц даже после удаления фотографии из базы нейросеть продолжает «помнить» человека. Алгоритм сохраняет его цифровой профиль внутри обученной модели и продолжает идентифицировать лицо, просто не показывая результат. То есть в полной мере цифровое забвение не работает. Эта особенность создает проблемы для компаний и государственных систем. Биометрические данные невозможно сменить как пароль. Если информация утечет, злоумышленники могут использовать ее для создания дипфейков или доступа к устройствам, сервисам и счетам.
Забыть рядового Петрова
Разработка «Криптонита» работает на уровне самой модели. Алгоритм изменяет внутренние параметры нейросети и убирает из нее цифровой образ определенного человека. После этого система перестает узнавать его лицо.
Испытания провели на открытых тестовых наборах данных. Проверка показала, что точность распознавания для удаленных пользователей падает до 88 процентов. При этом общая эффективность системы остается прежней.
Кого нужно забыть?
Технологию можно использовать в системах видеонаблюдения, контроля доступа и корпоративной безопасности. Она помогает компаниям удалять биометрические профили бывших сотрудников с соблюдением требований законодательства.
Разработчики также рассматривают интеграцию технологии в промышленные фреймворки для машинного зрения. Это даст компаниям и государственным структурам инструменты для более аккуратной работы с биометрическими данными.
