Ученые из РФ разработали метод 100-кратного снижения памяти для нейросетей

Специалисты из Высшей школы экономики и Института проблем передачи информации РАН имени А.А. Харкевича представили метод, существенно оптимизирующий работу нейронных сетей с большим числом параметров. Разработка позволяет значительно уменьшить объём необходимой памяти, что критически важно для эффективного масштабирования и внедрения ИИ-решений.

Суть метода заключается в более эффективном управлении данными внутри нейросети, особенно при работе с разреженными связями. Традиционные подходы часто требуют хранения всех возможных связей, даже если большинство из них имеют нулевое или незначительное значение. Новый алгоритм фокусируется на активных связях, тем самым минимизируя нагрузку на оперативную память.