Anthropic использовала технологию Petals для изучения ИИ-угроз на ТВ-приставках

В рамках эксперимента Anthropic оценила возможность запуска крупных языковых моделей (LLM) на распределённой сети из недорогих устройств вместо традиционных мощных серверов. Для этого было использовано 15 Android-ТВ-приставок и модель Gemma 4 с 26 миллиардами параметров, чтобы проверить эффективность такой архитектуры в контексте потенциальных угроз искусственному интеллекту.

Технология Petals, в разработке которой участвовал Яндекс, позволяет распределять нагрузку большой языковой модели между множеством пользовательских устройств. Это исследование помогает лучше понять, как можно масштабировать ИИ, снижать его стоимость, а также выявлять новые векторы атак или уязвимости в таких децентрализованных системах.