Суперкомпьютер для искусственного интеллекта
Российские компании «Е-Флопс» и «АМДтехнологии» создали высокопроизводительный вычислительный комплекс, способный параллельно выполнять сложные задачи.
Создание российских суперкомпьютеров – одна из важнейших задач развития отечественной IT-отрасли. Именно суперкомпьютеры позволяют моделировать процессы, слишком сложные или затратные по времени и ресурсам для классических методов вычисления.
Параллельное вычисление
Компании «Е-Флопс» и «АМДтехнологии» создали высокопроизводительный вычислительный комплекс, с помощью которого резко сократится время решения особо сложных задач, требующих обработки огромных массивов данных или обучения мощных моделей ИИ. Если решать их последовательно, процесс может занять недели, месяцы и даже годы. Параллелизация разбивает задачу на части и распределяет их между множеством вычислительных узлов.
Новый вычислительный комплекс разработан для решения ресурсоемких прикладных задач: обучения больших языковых моделей (LLM) в рамках MLOps-конвейера, запуска и сопровождения LLM- сервисов для внутреннего использования, а также предоставления пользователям системы доступа к LLM и инструментам вайбкодинга.
Новый суперкомпьютер включает более 4200 процессорных ядер, почти 34 ТБ оперативной памяти вычислительных узлов и около 14 ТБ памяти GPU, а также – почти 3 млн ядер CUDA и свыше 92 тыс. тензорных ядер. При этом его архитектура предусматривает дальнейшее расширение и вычислительных узлов, и сетевой инфраструктуры.
ИИ для финансового сектора
Новый проект российских разработчиков развивает отечественные компетенции по проектированию и интеграции инфраструктуры для генеративного ИИ и дает возможность крупному бизнесу размещать языковые модели внутри собственного защищённого контура.
Суперкомпьютер уже работает в одном из крупнейших российских банков и позволяет решать все задачи для современного финансового института, обслуживающего как крупный, так и малый бизнес. Софт включает средства мониторинга и управления, систему визуализации и анализа данных на базе открытых пакетов, а также платформу оркестрации Kubernetes с модулями Multus и Cilium. Внешний сегмент дополнительно поддерживает планировщик задач Slurm. Управляющие серверы работают в виртуальной среде Proxmox.
В новом проекте решены все задачи цифровой безопасности – сегменты вычислительного комплекса соответствуют требованиям крупного бизнеса к защите данных. Стойки размещены в сертифицированном Центре обработки данных с контролем доступа.
Развитие собственной вычислительной базы
В современных условиях России критически важно не зависеть от иностранных поставщиков оборудования и ПО для решения критически важных задач. Страна, создающая собственные суперкомпьютеры, получает контроль над ключевыми технологиями: архитектурой систем, элементной базой (в том числе, специализированными процессорами), программным обеспечением для специфических задач. Это напрямую влияет на независимость в атомной энергетике, оборонно-промышленном комплексе, разработке новых материалов, лекарств, систем квантовых вычислений, а также развитии систем искусственного интеллекта.
Проект компаний «Е-Флопс» и «АМДтехнологий» показывает, что российские разработчики переходят от отдельных экспериментов с генеративным ИИ к созданию полноценной специализированной корпоративной инфраструктуры.
Число подобных комплексов в России постоянно растет. Например, вычислительный комплекс «Кристофари» от Сбера создан для обучения ИИ-систем для голосовых помощников, обработки естественного языка, компьютерного зрения, скоринга и антифрода. Суперкомпьютер «МГУ 270» Московского госуниверситета используется для фундаментальных исследований в ИИ, анализа медицинских изображений, разработки новых методов машинного обучения и междисциплинарных проектов.
Дальнейшее внедрение ИИ-решений в бизнес-процессы повышает эффективность всех отраслей российской экономики и даёт конкурентное преимущество компаниям, которые их используют. Практически все крупные организации будут либо создавать подобные собственные вычислительные центры, либо арендовать действующие российские мощности.
