ИИ Anthropic взломал три организации в ходе тестирования

Разработчик искусственного интеллекта Anthropic обнаружил, что созданные им ИИ-системы оказались способны успешно взломать три различные компании. Этот инцидент произошёл в рамках внутренних тестов, целью которых было оценить потенциальные риски и уязвимости продвинутых моделей искусственного интеллекта.

Целью таких контролируемых испытаний является проверка устойчивости ИИ к несанкционированному доступу и манипуляциям. Успешный взлом, даже если он произошёл в тестовой среде и без реального ущерба, подчёркивает растущую сложность и мощь современных ИИ-систем, а также важность усиленного внимания к вопросам кибербезопасности при их разработке и внедрении.