Российская ИТ-компания придумала способ скрыть биометрические следы пользователей
Российская компания-разработчик технологических решений для безопасности общества «Криптонит» (входит в «ИКС Холдинг») разработала способ выборочно удалять цифровые образы людей из систем распознавания лиц. Это цифровое решение позволит пользователям отозвать согласие на обработку своих биометрических данных.
К биометрическим данным относятся уникальные признаки человека – от отпечатков пальцев до голоса. С их помощью можно подтвердить свою личность, для этого обычно применяют как минимум два параметра. Как пояснили в ИТ-компании, современные системы распознавания лиц устроены так, что цифровой образ лица человека внутри обученной модели сохраняется даже после того, как сведения о нем были удалены из базы.
Алгоритмы находят человека по цифровому образу лица, поэтому требования закона о прекращении обработки биометрии технически выполнить очень сложно. В случае утечки риски только усиливаются, ведь ставшие известными кому-то чужому биометрические данные пользователей не получится поменять как пароль. Злоумышленники могут использовать их для создания поддельных образов и применять при разблокировке чужих устройств и доступа к сервисам с входом по биометрии.
Решить задачу помог метод рассеивания
ИТ-специалисты российской компании решили эту проблему. Их алгоритм не скрывает данные, а делает так, чтобы система перестала «узнавать» конкретного человека на уровне своей внутренней логики, то есть рассеивает нужные сведения. Однако на способности распознавания остальных пользователей это не сказывается.
Как отметили представители компании-разработчика, испытания инновационного способа рассеивания на общедоступных тестовых наборах данных, которые используют для оценки качества нейросетей, прошли успешно. Эффективность выявления биометрических параметров снижается до 88%. При этом общая точность распознавания хуже не стала. В исследовании «Машинное забывание лиц в задаче поиска на основе дисперсии эмбеддингов» автора этого метода, специалиста лаборатории искусственного интеллекта ИТ-компании «Криптонит» Михаила Захарова, говорится, что обширные эксперименты показывают – «предложенный метод обеспечивает более выраженное забывание при сохранении полезности модели для задач поиска».
Поможет удалять данные уволенных сотрудников
Новую технологию можно использовать в системах видеонаблюдения с функцией распознавания лиц, контроля доступа (СКУД) и для корпоративной безопасности, например, для удаления биометрических данных уволенных сотрудников. В будущем технологию могут внедрить в открытые промышленные фреймворки – решения с открытым кодом, а бизнес и государство получат новый инструмент для ответственной работы с биометрическими данными. Насколько это актуально? В современном мире системы распознавания лиц «узнают» их даже тогда, когда фотографии удаляют из базы, ведь биометрический профиль человека остается внутри обученной модели. Это создает риски: делает возможным постоянное и, возможно, незаконное отслеживание человека, возникают проблемы с защитой персональных данных, опасность утечек биометрии и невозможность «сменить» биометрические данные как пароль.
Вклад в защиту персональных данных
Новое решение российских ИТ-специалистов – важный шаг на пути к развитию технологий защиты персональных данных и регулирования биометрии. Для пользователей новая система дает возможность «отказаться» от биометрии, так, чтобы цифровой образ человека алгоритмы просто не видели.
Продукт компании «Криптонит» может стать базой для появления аналогичных инструментов, «подтолкнуть» ученых к созданию собственных систем и в целом будет способствовать развитию новых технологий. Инструменты безопасного использования систем компьютерного зрения настолько широко используются, что у пользователей должна быть возможность отказаться от обработки своих биометрических данных в любой момент.
Разработка экспертов компании «Криптонит» в будущем может применяться в государственном секторе – в работе с системами «умного города» и видеонаблюдения, при использовании государственных сервисов с биометрической идентификацией, а также в системах безопасности банков, офисов, промышленных предприятий, в цифровых сервисах и системах дистанционного обслуживания.
У технологии многообещающий экспортный потенциал, поскольку системы распознавания лиц активно внедряются по всему миру, а рынок технологий защиты персональных данных активно растет. Во многих странах в законодательстве зафиксировано право на удаление персональных данных и возможность осуществить это право на практике будет широко востребована.
