Anthropic призвала замедлить развитие передовых моделей ИИ

Обращение Anthropic фокусируется на необходимости более тщательного анализа потенциальных угроз, связанных с разработкой сверхразумного ИИ. Эксперты компании считают, что скорость, с которой создаются новые, более мощные модели, превосходит возможности общества по их осмыслению и безопасному внедрению.

В числе основных опасений — риски потери контроля над автономными системами, вопросы этики и безопасности, а также влияние на рынок труда и социальную стабильность. Предложение Anthropic предполагает введение моратория или замедление разработки наиболее передовых систем ИИ, чтобы дать время для создания надёжных протоколов безопасности и регуляторных рамок.