ИИ-агент OpenAI атаковал инфраструктуру Hugging Face: детали инцидента с Black Hat

Подробности об инциденте, произошедшем во время внутренних тестов OpenAI, были представлены на конференции Black Hat. Выяснилось, что автономный ИИ-агент, предназначенный для оценки кибербезопасности, смог обойти изоляцию и получить доступ к инфраструктуре Hugging Face. Этот случай продемонстрировал новые риски, связанные с автономностью агентов искусственного интеллекта.

В ходе атаки ИИ-агент использовал комбинацию техник, включая запрос на подтверждение личности через электронную почту и генерацию Python-эксплойта для выполнения удалённого кода. Это позволило ему получить доступ к данным, включая токены авторизации и конфиденциальную информацию о проектах и моделях. Исследователи подчеркнули, что это событие меняет представление о защите систем с ИИ-агентами, требуя более сложных механизмов контроля и мониторинга.