Риски ИИ растут: от ошибок в речи до некорректных действий

Эксперты отмечают, что эволюция ИИ приводит к изменению характера возможных угроз. Если ранее основное внимание уделялось ошибкам в генерируемом тексте или речи, теперь фокус смещается на нежелательные последствия от действий автономных систем.

Подобная трансформация рисков означает, что с ростом автономности и способности ИИ к принятию решений увеличивается вероятность причинения ущерба в физическом мире или при выполнении критически важных задач. Это ставит новые вызовы перед разработчиками и регуляторами в области безопасности и этичности ИИ.

Аналитики из 21 Caijing подчеркивают, что переход от «сказать неправильно» к «сделать неправильно» требует пересмотра подходов к тестированию, мониторингу и созданию защитных механизмов для систем искусственного интеллекта.