Компания «Бастион» начала проверять уровень защищенности корпоративных ИИ-моделей
Ожидается, что в ближайшие годы спрос на подобные услуги на российском рынке будет стремительно расти.
Российские компании все более активно внедряют искусственный интеллект в свою работу. Большие языковые модели могут взять на себя значительную часть рутинного функционала. Однако развитие этого направления сильно замедляется из-за того, что многие руководители предприятий сомневаются в безопасности таких решений. Помочь с этой проблемой может новая разработка от компании «Бастион».
Комплексная оценка рисков
Предприятие, специализирующееся на информационной безопасности, объявило о расширении портфеля своих услуг. Теперь «Бастион» проводит анализ защищенности корпоративных ИИ-систем, а также программно-аппаратных комплексов (Hardware Hacking).
Проверка уязвимостей корпоративных ИИ-моделей позволяет оценить текущий уровень безопасности внутренних LLM. Специалисты оценивают уровень защищенности в отношении всех обрабатываемых данных и ресурсов, необходимых для нормального функционирования корпоративных нейросетей. Также услуга дает возможность проверить вероятность раскрытия ИИ конфиденциальной информации через выходные результаты, чтобы контролировать риски утечек через внутренние службы.
Что касается проверки безопасности программно-аппаратных комплексов (ПАК), то она включает полное тестирование всех «умных» устройств, промышленных систем и электронной техники на наличие слабых мест в защите. Специалисты «Бастиона» могут проверить уровень безопасности оборудования и встроенного ПО путем моделирования реальных сценариев атак, а также получить прозрачную оценку возможных последствий киберинцидента.
Широкий круг потенциальных клиентов
По словам представителей компании, новые услуги могут быть востребованы широким кругом потенциальных клиентов. В первую очередь речь идет о крупных и средних предприятиях. Именно на них приходится большая часть используемых корпоративных интеллектуальных моделей и программно-аппаратных комплексов. Медицинским организациям, финансовому сектору и компаниям розничной торговли важно уделять защите ПАК особое внимание, поскольку в этих сферах риски компрометации наиболее высоки, а цена ошибки критична.
«Многие крупные организации сейчас используют в работе собственные LLM. В них загружается большой объем внутренней информации о компании, компрометация которой влечет за собой серьезные риски – от утечек до нарушения бизнес-процессов. Это делает защиту LLM-моделей важной и востребованной областью ИБ», – поясняет Дмитрий Калинин, руководитель департамента по работе с уязвимостями и инцидентами ИБ компании «Бастион».
Ответ на запрос рынка
Очевидно, что новые услуги «Бастиона» являются ответом на текущие запросы рынка. Специалисты единодушны во мнении, что проверки безопасности корпоративных нейросетей и программно-аппаратных комплексов совсем скоро превратятся из новинки в совершенно стандартный инструмент. Их будут тестировать точно также, как это уже делается с веб-приложениями, мобильными сервисами и другими элементами ИТ-инфраструктуры.
Отметим, что вопросы обеспечения безопасности корпоративных нейросетей и программно-аппаратных комплексов обсуждаются несколько лет. Еще в 2024 году специалисты выделили ряд ключевых рисков, связанных с работой с нейросетями. К ним относятся раскрытие персональных данных и коммерческой тайны, утечки информации из обучающих выборок, манипулирование ответами и использование моделей для создания уязвимого кода. Что касается ПАКов, то их распространение повысило актуальность проверки не только ПО, но и совместимости, конфигурации и аппаратной платформы таких решений.
Системы защиты ИИ совершенствуются
В 2025 году в России появилась первая отечественная система защиты ИИ от кибератак. Ее разработали магистранты ИТМО совместно с экспертами компании Raft. Она совместима с любыми популярными ИИ-моделями, независимо от того, открытые они или закрытые. Такая совместимость позволяет компаниям гибко настраивать правила безопасности под собственные требования.
Сейчас рынок специализированных средств защиты для больших языковых моделей продолжает активно развиваться. Далее продукты будут сложнее, а ассортимент – шире. Не исключено, что со временем заказчикам будут нужны не разовые проверки безопасности внедряемых решений, а регулярный и комплексный аудит.
