Российские учёные создали «прозрачный» искусственный интеллект

Новая архитектура ИИ с открытой логикой ускорит разработку безопасных и предсказуемых систем

Российские исследователи совершили прорыв в области искусственного интеллекта, разработав алгоритм, который делает работу ИИ полностью понятной для человека. В отличие от современных нейросетей, действующих по принципу «чёрного ящика», новая система основана на логических клеточных автоматах, что позволяет точно отслеживать процесс принятия решений.

Разработка принадлежит учёным из Института теоретической и экспериментальной биофизики РАН (Пущино) и Института биофизики клетки РАН. По словам научного сотрудника ИТЭБ РАН Льва Калмыкова, традиционные системы ИИ, включая генеративные алгоритмы, остаются непрозрачными: даже их создатели не всегда могут объяснить, как именно принимаются те или иные решения. Это ограничивает возможности контроля и повышает риски при использовании технологии в критически важных сферах.

Новый подход решает эту проблему за счёт использования логических клеточных автоматов — математических моделей, где каждая «клетка» меняет состояние по чётким правилам. Уже сейчас система успешно применяется для проверки экологических гипотез, включая моделирование биоразнообразия и анализ взаимодействия видов.

Эксперты отмечают, что технология открывает путь к созданию гибридных ИИ-систем, сочетающих преимущества «прозрачных» и традиционных алгоритмов. В перспективе разработка может стать основой для нового поколения предсказуемых и надёжных систем искусственного интеллекта, полностью соответствующих требованиям регуляторов.