Наталья Касперская: Мы наблюдаем зарождение нового рынка, связанного с безопасностью систем искусственного интеллекта

ИИ-агенты и мультиагентные системы становятся новым корпоративным стандартом, им открывают доступ к огромным массивам чувствительной информации и делегируют управленческие решения. Можно ли в условиях такого глубокого проникновения обеспечить цифровую безопасность и есть ли риск выхода машин из-под контроля человека? Эти вопросы сегодня волнуют многих. Своим видением будущего с медиаплатформой IT Russia поделилась Наталья Касперская, президент группы компаний InfoWatch, которая разрабатывает решения для защиты корпоративной информации от утечек и промышленного сектора от вторжений.Один из самых авторитетных экспертов в сфере информационной безопасности, она создала и 10 лет возглавляла «Лабораторию Касперского», а теперь уже долгое время возглавляет группу компаний InfoWatch и является председателем правления Ассоциации разработчиков программных продуктов (АРПП) «Отечественный софт».

– Наталья Ивановна, какие сферы, связанные с высокими технологиями, вы считаете наиболее перспективными?

– Сейчас все говорят о генеративном искусственном интеллекте, он на пике популярности. Но я заметила, что в этом году на первый план выходит другая тема. Наконец, и бизнесу, и государству стало понятно, что с ИИ связаны определённые риски. И мы уже наблюдаем зарождение нового рынка, связанного с обеспечением безопасности систем искусственного интеллекта. Растет спрос на LLM-файрволы (программный слой между пользователем и нейросетью для предотвращения обхода инструкций и утечки данных – прим. IT Russia), системы аудита действий ИИ-агентов и кибербезопасности, на различного рода аналитику. Очевидно, что этот рынок будет развиваться, потому что есть потребность в таких продуктах.

– Есть ли сегодня обязательные протоколы безопасности, которые смогут уберечь компании от серьезных рисков при работе с высокими технологиями?

– Любая компания, прежде чем начать внедрять систему безопасности, строит для себя так называемую модель угроз, определяя направления, по которым её могут атаковать, и активы, которые она должна защитить в первую очередь. Для хлебокомбината, например, это производственные площадки, а для ИТ-компании – ее интеллектуальная собственность. Исходя из этого, выбираются инструменты защиты – протоколы будут разными. Но в любом случае при использовании искусственного интеллекта надо обеспечить систему защиты от утечек чувствительной информации. Сейчас есть определенные сценарии, но вопросы безопасности полностью не закрыты. Решений пока не очень много, они в основном в начальной стадии. Но вот за ними как раз, мне кажется, будущее.

– А каким вы видите будущее самого искусственного интеллекта?

– Знаете, китайцы говорят, что прогнозы – дело очень неблагодарное, особенно когда речь идёт про будущее. Тест Тьюринга пройден в 2023 году (ChatGPT достиг такого уровня, что в диалогах его трудно отличить от живого человека – прим. IT Russia). Вслед за нейросетями появились большие фундаментальные модели, потом ИИ-агенты, а сейчас уже активно внедряются мультиагентные системы. И очень многие говорят о так называемом сверхразуме или сверхумном искусственном интеллекте, который будет мыслить, как человек. Я, честно говоря, в это не очень верю, потому что, во-первых, непонятно, зачем он такой нужен. А во-вторых, технология, на которой сейчас зиждется ИИ – это, по большому счёту, перемешивание данных и выдача вероятностных, то есть неточных ответов.

Мы берём огромный массив данных и, перемешивая их, вычисляем различные корреляции, на основе которых делаем какие-то выводы. Уже понятно, что у этой технологии есть ограничения, определённые лимиты. Я допускаю, что через какое-то время произойдет очередной прорыв, и мы технологически выйдем на следующую новую ступень. Но, поскольку я занимаюсь информационной безопасностью, мне бы всё-таки хотелось, чтобы, двигаясь в сторону новых технологий, мы видели риски, которые они несут и умели бы от них защищаться. Потому что технологии проникают очень глубоко и могут «дотянуться» до таких вещей, до которых раньше невозможно было добраться, – например, до каких-то уязвимостей в программных системах.

Вот, например, применили мы некую модель на своем программном обеспечении. И нашли там 185 новых уязвимостей. И что с этим делать – пока непонятно. Получается, информационная безопасность теперь требует каких-то сверхусилий, потому что в каждом софте возможно огромное количество уязвимостей, через которые будут проникать злоумышленники.

В общем, мы вступаем в какую-то новую парадигму, всех рисков которой человечество ещё не осознало. А это обязательно нужно сделать, прежде чем дальше устремляться в прекрасное светлое будущее. Особенно в условиях противодействия нам недружественных государств. Именно поэтому наше правительство так ограничивает применение искусственного интеллекта – местами неуклюже, но цель-то понятна. Не будем в этом разбираться мы – разберутся наши враги: в нашем софте, в наших системах, во всём. И после этого все наши системы будут совершенно беззащитны. Вот этого допустить нельзя.