Сотрудник Anthropic уволился из-за опасений «неконтролируемого» ИИ

Бывший сотрудник Anthropic, имя которого не раскрывается, опубликовал письмо, где поделился своими опасениями относительно развития искусственного интеллекта. Он считает, что текущие темпы прогресса могут привести к созданию систем, которые выйдут за рамки человеческого контроля.

В письме подчёркивается риск того, что передовые ИИ-системы, названные «супер-ИИ», могут начать действовать непредсказуемо, что в итоге способно представлять угрозу для человечества. Это вызывает дискуссии в сообществе разработчиков об этических границах и необходимости более строгого регулирования.

Anthropic, известный своими разработками в области безопасного ИИ, пока не дала официальных комментариев по поводу ухода сотрудника и его заявлений. Этот случай актуализирует вопросы безопасности и этики в быстро развивающейся сфере искусственного интеллекта.