Российские ученые изобрели способ ускорить обучение нейросетей

Группа российских исследователей из Сбера, МФТИ, Института системного программирования РАН и Сколтеха представила метод, который ускоряет обучение распределенных и федеративных нейросетей, а также снижает нагрузку на вычислительные ресурсы, сообщили в пресс-службе Сбера.

Разработка основана на сочетании сжатия данных и учета их схожести. Это позволяет уменьшить частоту обмена информацией между устройствами в сети. Новое решение полезно в условиях ограниченной скорости передачи данных — оно ускоряет процесс без потери качества и снижает энергозатраты.

По словам авторов, метод объединяет несколько подходов в единый алгоритм с теоретическими гарантиями эффективности. Испытания показали, что при правильной настройке можно значительно ускорить процесс обучения без потери качества.

Разработка найдет применение в различных сферах — от финансов и телекоммуникаций до промышленности, где распределенные вычисления используются для работы с крупными моделями искусственного интеллекта.

Ранее Википедия приостановила эксперимент с автоматическим созданием кратких обзоров статей с использованием искусственного интеллекта.