Россия может создать новые стандарты кибербезопасности

Опасная уязвимость

Специалисты «Лаборатории Касперского» представили исследование об уязвимостях открытого стандарта от Anthropic – Model Context Protocol (MCP).

Этот стандарт применяется для подключения ИИ-ассистентов к внешним данным и сервисам. Согласно результатам исследования, злоумышленники могут создавать вредоносные MCP-серверы, которые будут замаскированы под легитимные инструменты. В результате может быть подменена логика выполнения команд, через обновления могут внедряться бэкдоры, а также может произойти скрытая эксфильтрация данных.

Данная уязвимость опасна для разработчиков и компаний, которые активно внедряют ИИ в свои рабочие процессы. В самом неблагоприятном случае последствия этого на себе ощутят очень многие жители страны, пользующиеся приложениями и сервисами с применением ИИ. Поэтому российским специалистам необходимо как можно скорее заняться доработкой стандартов кибербезопасности в сфере ИИ.

Повод для новых решений

Таким образом, обнаружение уязвимостей становится стимулом для разработки российских механизмов верификации MCP-серверов и регламентов безопасного использования ИИ-инфраструктуры. При этом данная тема актуальна не только в масштабах России. Аналогичные риски присутствуют и в США, и в странах ЕС, и в Китае. Поэтому наша страна может предложить решение по киберзащите ИИ-платформ в качестве экспортного продукта.

Сейчас мы находимся в переломном моменте. Мы наконец-то все вместе начинаем понимать, что такое кибербез в нашей жизни, как хакеры могут влиять на жизни каждого. Не просто звонить, как мошенники, и воровать деньги, а делать атаку на какой-то объект, который влияет на экономику страны, на население

Айдар Гузаиров

генеральный директор компании Innostage

Изучение уязвимостей

Подобные исследования в мире IT появляются регулярно. Так, в 2022 году «Лаборатория Касперского» выступила с предупреждением о росте supply-chain атак через открытые репозитории (PyPI, npm).

2023 год ознаменовался открытием недостатков в плагинах ChatGPT: соответствующие уязвимости, из-за которых было возможным внедрение вредоносного кода через сторонние сервисы, обнаружили исследователи Check Point. А в 2024 году корпорацией Microsoft были зафиксированы атаки на разработчиков через вредоносные NPM-пакеты, имитирующие легитимные библиотеки.

Новые направления атак

Развитие и популяризация ИИ способствует созданию новых каналов атак через интеграционную инфраструктуру (MCP, плагины, API). Поэтому усиление контроля за безопасностью инструментов open-source сегодня является серьезным вызовом для российской IT-отрасли. То же самое можно сказать и о разработке стандартов для доверенных ИИ-интеграций, которая становится жизненно необходимой.

Не исключено, что в ближайшие 2-3 года атаки с помощью поддельных МСР-серверов и supply-chain-компонентов станут одним из главных направлений в кибервойне. Одним из выходов в такой ситуации может стать создание реестра доверенных MCP-серверов и национальных сертификационных центров для ИИ-интеграций.