Глава Anthropic призвал замедлить развитие ИИ из-за рисков безопасности

Руководитель Anthropic Дарио Амодей подчеркнул, что текущая «гонка» в сфере ИИ приводит к тому, что компании уделяют недостаточно внимания потенциальным рискам, таким как дезинформация, предвзятость алгоритмов и потеря контроля над мощными системами. По его мнению, без должного регулирования и тщательного тестирования технологии искусственного интеллекта могут нести серьёзную угрозу для общества.

Высказывания Амодея совпадают с общими настроениями в экспертном сообществе, где всё чаще говорят о необходимости установить паузу или ввести мораторий на разработку передовых ИИ-систем. Цель такого замедления — дать возможность специалистам и регуляторам разработать стандарты безопасности и этические принципы, прежде чем технологии станут слишком сложными для контроля.