В СПбГУ повысили точность безопасного метода обучения нейросетей для «умного города»

Укрепление позиций России

Разработка Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» продемонстрировала прогресс в области безопасного машинного обучения ИИ для городских систем, что критически важно для устойчивости цифровых сервисов (мониторинг, безопасность, транспорт). Технология федеративного обучения позволяет улучшать качество моделей, сохраняя конфиденциальность данных, без их централизации.

Это подчеркивает локальные научные достижения российских ITв приватном обучении и укрепляет позиции страны в создании безопасных AI-систем для умных городов. Алгоритм повышает эффективность городской аналитики и мониторинга, минимизируя риски утечки данных. Модификация алгоритма (M-FedBN) также представляет интерес для международного сообщества в области Privacy-Preserving Machine Learning.

Федеративное обучение позволяет тренировать модели без передачи локальных данных на сервер, достигая высокой точности в задачах безопасности и транспортного анализа. Преимущество новой версии MFedBN– в устойчивости и адаптивности модели к разнородным данным.

Возможности для экспорта

Благодаря свойству сохранять приватность чувствительных данных федеративное обучение является востребованным международным направлением в сфере ИИ с потенциалом применения в медицине, финансах и телекоммуникациях. Алгоритмы в духе MFedBN открывают возможности для экспорта российских AI-технологий в коммерческие и исследовательские проекты по всему миру, в том числе в областях IoT, умного транспорта и КБ.

Внутренние перспективы включают интеграцию в системы управления городской инфраструктурой, применение в распределенных и приватных системах кибербезопасности (IDS/IPS), а также расширение на IoT-устройства, где централизованное обучение затруднено.

Работоспособность и превосходство предложенного алгоритма над базовыми аналогами были доказаны в ходе серии экспериментов на двух принципиально разных задачах - мониторинге поведения коммерческого транспорта и обеспечении сетевой безопасности. В частности, при тестировании на данных сенсоров грузовых автомобилей алгоритм достиг точности классификации 85%, а в задаче обнаружения киберугроз и сетевых вторжений – 99,98%

Иван Холод

руководитель исследовательского проекта, проректор по цифровой трансформации СПбГЭТУ «ЛЭТИ»

Учитывая растущий интерес к Privacy-Preserving Machine Learning в научном сообществе, федеративное обучение имеет перспективы для применения во взаимосвязанных сетях, таких как смарт-транспорт, медобслуживание и энергетика. Однако успешное развитие требует решения ряда задач: необходимо согласование стандартов и протоколов обучения между участниками, а также учёт того, что производительность конечной модели напрямую зависит от распределения локальных данных и архитектуры сети.

Развитие федеративного обучения

В 2021 году был создан алгоритм FedBN: Federated Learningon Non-IID Features via Local Batch Normalization.

В 2023 году был анонсирован FedWon – новый подход к федеративному обучению (Federated Learning, FL) без нормализации. Исследование было направлено на решение проблемы многодоменного FL, когда данные клиентов поступают из различных доменов с различными распределениями функций, а не из распределений меток. Результаты показали, что FedWon превосходит FedAvg и FedBN во всех экспериментальных установках.

Обзор применения федеративного обучения (FL) для обнаружения вторжений в IoT (Leonardo et al.) за 2024 года подтверждает перспективность FL для сетевой безопасности в распределённых экосистемах IoT-устройств. FL позволяет обучать модели обнаружения атак непосредственно на устройствах без передачи исходных данных, что обеспечивает конфиденциальность информации и устойчивость системы к новым видам атак.

Популярность в качестве ключевого метода ИИ набирает концепция федеративного обучения (Federated Learning, FL). Этот подход позволяет обучать модели на распределённых данных без необходимости передавать их в единый центр, что минимизирует риск утечек и несанкционированного доступа.

Федеративное обучение активно развивается при поддержке научного и бизнес-сообществ. Развитие прошло путь от специализированных решений для обработки специфических данных (FedBN) до современных методов агрегации и широкого применения технологий в среде умных устройств (IoT).

Комплексная защита данных

Российские ученые внесли значительный вклад в развитие федеративного обучения, улучшив точность и устойчивость моделей. Это имеет значение для городских систем, работающих с распределенными данными. Применение алгоритма MFedBN продемонстрировало высокий потенциал AI-решений в сферах безопасности и сетевого анализа, что делает их крайне привлекательными для практических городских служб и ИТ-компаний.

Согласно прогнозам, к 2030 году федеративное обучение способно стать отраслевым стандартом в области приватного машинного обучения для критически важных сервисов, таких как безопасность, медицина и телекоммуникации, где защита данных является приоритетом. Укрепление российских научных позиций повысит экспортный потенциал отечественных AI-решений в страны с высокими требованиями к приватности. Ожидается интеграция федеративного обучения с другими передовыми технологиями, такими как гомоморфное шифрование и дифференциальная приватность.