Infosecurity выпустила комплекс услуг для безопасности искусственного интеллекта
Infosecurity «Софтлайн Решения» (часть группы компаний Softline) представила комплекс услуг по обеспечению безопасности систем искусственного интеллекта. Пакет состоит из оценки зрелости практик защиты ИИ, анализа рисков ИИ-систем, red teaming LLM-приложений (проактивная практика тестирования безопасности больших языковых моделей), внедрения LLMSecOps (практика интеграции мер безопасности на всех этапах жизненного цикла больших языковых моделей), разработки корпоративного фреймворка управления безопасностью ИИ и подготовки к сертификации по стандарту ISO/IEC 42001.
Вывод на рынок такого комплекса услуг носит отраслевой характер. Речь идёт о развитии специализированной B2B-практики для компаний, которые внедряют нейросети в разработку, аналитику, клиентские сервисы и внутренние процессы. Любопытно, что безопасность ИИ при этом выделяется в отдельное направление информационной безопасности.
Результатом применения разработки должно стать более защищённое использование ИИ в банках, госуслугах, медицине и ритейле. Это снизит риски утечек данных и ошибок автоматизированных решений. В масштабах страны это вопрос технологического суверенитета на фоне роста рынка. По сведениям CNews, в 2024 году выручка топ-35 поставщиков ИИ-решений достигла 43 млрд рублей, рост составил более 80%.
Ориентация на международные стандарты
Наработки Infosecurity «Софтлайн Решения» имеют перспективы внутри России в случае беспрерывного формирования рынка безопасности ИИ (AI Security): аудита ИИ-систем, защиты LLM-приложений, тестирования на уязвимости, оценки рисков моделей и контроля данных.
К осени 2025 года в стране уже насчитывалось больше 50 компаний, связанных с этим направлением, однако только в 11 из них специализировались на нём, что свидетельствует о ранней стадии развития. Такие данные приводит SecPost.
Спрос на услуги будет расти по мере внедрения ИИ в критически важные процессы и усиления регулирования. Экспорт возможен преимущественно на дружественные рынки, при этом наиболее востребованы методологии, аудит и решения для защиты LLM, ориентированные на международные стандарты, в том числе ISO/IEC 42001.
От обсуждения к внедрению практик
В России уже несколько лет формируется институциональная и практическая база безопасности ИИ. В 2024 году был создан профильный консорциум для защиты данных и развития доверенных ИИ-технологий. Спустя год участники рынка и профессиональные сообщества закрепили подходы к защите LLM. PositiveTechnologies опубликовала политику безопасной разработки и эксплуатации моделей, а OWASP –список основных угроз, включая промпт-инъекции (метод атаки на модели машинного обучения). Это подтверждает переход от обсуждений к внедрению практик, где компаниям нужны не просто технические тесты, но и регламенты управления ИИ.
В 2026 году AI red teaming было оформлено как самостоятельное направление на рынке КБ. Услуги, включая проверку GenAI-систем, LLM и связанной инфраструктуры, продвигает, в частности, Group-IB. Риски промпт-инъекций, утечек данных, отравления данных и атак на цепочки поставок при этом выделяют в отдельный блок.
Вместе с этим усиливается регуляторная повестка. Обсуждаемые изменения в законодательстве предполагают допуск ИИ-моделей к государственным данным только при согласовании с ФСТЭК и ФСБ и закрепляют ответственность операторов за безопасность ИИ-систем.
Смещение фокуса на управление рисками
Выведение на рынок комплекса услуг Infosecurity фиксирует переход отечественного рынка от активного внедрения ИИ к его безопасной и контролируемой эксплуатации. При такой конфигурации для бизнеса фокус смещается с эффективности на управление рисками – утечками данных, уязвимостями LLM-приложений, ошибками моделей, теневым использованием ИИ и соответствием стандартам.
В ближайшие пару лет ожидается рост спроса на обеспечение безопасности применения ИИ (AI Security) в финсекторе, госсекторе, промышленности, телекоме, медицине и разработке ПО. На фоне этого будет формироваться новый сегмент кибербезопасности, связанный с защитой ИИ-моделей, данных и процессов их использования.
