Российские учёные разработали технологию для повышения достоверности ответов нейросетей

Надежда на достоверный ИИ

Большие языковые модели (LLM) всё чаще используются в образовании, медицине, юриспруденции и бизнесе. Но их главный недостаток остаётся неизменным: склонность к «галлюцинациям». Под этим термином в ИИ-сообществе понимают выдачу моделями вымышленных или ошибочных сведений под видом правды. Эта проблема ставит под угрозу доверие к нейросетям в критически важных сферах. Однако российские учёные представили решение, способное кардинально изменить ситуацию.

Научная группа из Новосибирского государственного университета (НГУ) при участии коллег из МГУ, БФУ им. И. Канта, МИСиС, ДВФУ и ИТМО разработала программную библиотеку RAGU (Retrieval-Augmented Graph Utility). Она позволяет значительно повысить точность и надёжность ответов LLM, снижая риск галлюцинаций за счёт интеграции графов знаний — структур, отражающих реальные связи между понятиями и фактами.

Как работает RAGU: умнее, но скромнее

Основное инновационное преимущество RAGU — в сочетании эффективности и экономичности. Вместо того чтобы полагаться на гигантские модели с десятками миллиардов параметров, команда использовала дообученную небольшую модель (~600 млн параметров) для многошагового построения графа знаний. Этот подход позволяет учитывать контекст и логические связи между данными, не перегружая вычислительные ресурсы. В традиционных системах для аналогичной задачи требуются модели в 50 раз больше.

Такой подход открывает путь к демократизации точного ИИ: даже организации с ограниченными вычислительными мощностями смогут использовать надёжные модели без зависимости от облачных гигантов.

Мы специальным образом дообучили генеративную нейросеть быть эффективным инструментом построения графа знаний, и делать это не за один шаг, а многошагово. Такой подход позволяет снизить требования к аппаратному обеспечению и ускорить процесс. При оригинальном подходе для эффективного построения графа знаний часто требовались огромные языковые модели (до около 32 млрд параметров). Наш подход уменьшил размер до около 600 млн параметров за счет дообучения и многошаговой архитектуры, сохранив или даже повысив качество по сравнению с традиционными решениями

Иван Бондаренко

научный сотрудник лаборатории прикладных цифровых технологий ММЦ НГУ

Почему это важно для всех

Польза от RAGU выходит далеко за пределы научного сообщества. Более достоверные ИИ-системы напрямую влияют на качество жизни: школьники получат точные объяснения в учебных чат-ботах, врачи - обоснованные рекомендации по диагностике, юристы — корректные ссылки на нормативные акты. Особенно ценно это в условиях роста числа ИИ-решений в государственных и коммерческих сервисах.

Глобальное ИИ-сообщество активно ищет способы борьбы с галлюцинациями: с 2022 года количество научных публикаций на эту тему резко выросло. Microsoft, OpenAI и другие лидеры публикуют рекомендации, а исследователи по всему миру тестируют методы от цепочек верификации до структурного обучения. Работа российских учёных вписывается в этот тренд, предлагая оригинальное и эффективное решение.

Перспективы: от публикаций до экспорта

У RAGU очень высокий экспортный потенциал. Проблема галлюцинаций актуальна и в США, и в Китае, и в Европе. Уже в ближайшие 1–2 года технологию могут интегрировать в российские ИИ-платформы, а международные публикации и выступления на конференциях откроют путь к сотрудничеству с такими компаниями, как Hugging Face или Google.

Кроме того, совместная работа ведущих вузов страны демонстрирует рост компетенций российского ИИ-сообщества. Такие проекты укрепляют научно-технологический суверенитет и создают основу для коммерциализации отечественных разработок.

RAGU - не просто очередной алгоритм, а важный шаг к созданию ответственного ИИ, способного служить человеку без искажений и ошибок. В условиях, когда нейросети всё глубже проникают в повседневную жизнь, такие технологии становятся не просто полезными — они необходимы. И то, что решение этой глобальной задачи рождается в российских лабораториях, — повод для научной и технологической гордости.