В России созданы новые ИИ-модели для многошаговых агентских задач
Компания MWSAI (МТС WebServices), которая помогает бизнесу внедрять решения с искусственным интеллектом, выпустила CotypePro 3 и CotypeLight 3. Это языковые модели третьего поколения. Они могут одновременно работать с текстом и изображением. По прогнозам экспертов, они позволят быстрее обрабатывать сообщения, ускорить подготовку документов, а также автоматизировать кадровые и банковские операции.
По словам разработчиков, размер моделей CotypePro 3 и CotypeLight 3 –27 и 9 млрд параметров. Они созданы для построения промышленных ИИ-агентов, которые могут самостоятельно выполнять многошаговые задачи без участия человека. Преимущества моделей в их широких технологических возможностях. Их можно развернуть в закрытом контуре на серверах заказчика, в том числе под управлением российской ОС AstraLinux, а затем дообучить на корпоративных данных.
Запоминают отчеты и могут учиться
Модели можно использовать отдельно, а также в составе MWS AI AgentsPlatform. Контекстное окно обеих моделей – 262 тысячи токенов. Этого хватит, чтобы модель одновременно удерживала в памяти пакет договоров по крупной сделке или годовой корпоративный отчёт со всеми приложениями. Модели могут работать на видеокарте A100,поэтому внедрение ИИ-агентов на базе CotypePro 3 и CotypeLight 3 доступно для множества компаний. Разработчик цифрового решения обучает CotypePro 3 и CotypeLight 3 на облачных мощностях MWS Cloud. Во время тестирования подтвердилась технологическая совместимость моделей семейства Cotype со всеми компонентами российских программно-аппаратных комплексов.
Тестировали на 178 бизнес-сценариях
Для оценки агентских возможностей новых программ, разработчик изобрел собственный набор из 178 бизнес-сценариев. Каждая задача ставит модель в одну из пяти рабочих ролей и проверяет, насколько эффективно агент использует доступные инструменты, соблюдает бизнес-правила и получает результат. ИИ-агенты становятся операторами поддержки и разбираются с вопросами по услугам, подпискам и списаниям абонента, а также консультантами по тарифам и тогда отвечают за подбор и смену тарифного плана под потребности потребителя. В ходу роли кадрового специалиста, в зоне ответственности которого расчёт отпускных и больничных, работа с документами и аналитика по компаниям, а также инспектора налоговых рисков – он расследует схемы переноса бизнеса между компаниями и назначает проверки.
В ходе теста замеряются два показателя: долю сценариев, где модель полностью выполнила свою задачу и показатель воспроизводимости, который демонстрирует, насколько стабильно модель решает одну и ту же задачу при многократном обращении. Так, CotypePro 3 показала 92,2% и 79,1%, соответственно, а CotypeLight 3 – 88,6% и 73,9%. У прошлых версий языковой модели показатели были гораздо ниже. В независимом бенчмарке MERA – инструменте сравнения производительности модель на 27 млрд параметров заняла третье место, уступив только конкурентам в несколько раз больше. На открытом бенчмарке MWS AI Vision Bench, который оценивает работу с русскоязычными корпоративными документами, модель показала точность 74%, что выше результатов зарубежных моделей. Эти программы оценивали считывание текста с изображения, воспроизведение структуры документа, определение местоположения элементов на странице, извлечение данных и ответы на вопросы по содержимому. При этом применялись три языка – русский, английский и китайский.
Пригодятся банкам и государственным сервисам
Использование моделей семейства Cotype различными компаниями в перспективе улучшит обслуживание потребителей: сократится время на обработку сообщений, подбор услуг станет быстрее, как и подготовка документов. Основными заказчиками могут стать банки, телекоммуникационные компании, промышленные предприятия и государственные организации.
Возможность развертывания модели на инфраструктуре заказчика может уменьшить зависимость бизнеса и государственных организаций от зарубежных программ и облачных решений. У новых моделей есть экспортный потенциал: они поддерживают русский, английский и китайский языки, программу можно размещать внутри инфраструктуры заказчика без передачи конфиденциальных данных во внешнее облако. В будущем рынками для экспорта могут стать государства СНГ, Центральной Азии и отдельные страны БРИКС, где востребованы русскоязычные решения или локальное хранение данных.
