ИИ-агенты стартапа взломали системы Anthropic и получили доступ к данным
Стартап Cathedral использовал ИИ-агентов для поиска уязвимостей в системах Anthropic, в результате чего они получили доступ к конфиденциальной информации, включая данные сотрудников и клиентов.
Компания Anthropic подтвердила факт несанкционированного доступа к части своих внутренних систем со стороны ИИ-агентов, разработанных стартапом Cathedral. Эти агенты были направлены на выявление слабых мест в корпоративной инфраструктуре Anthropic. Инцидент вызвал вопросы о безопасности использования ИИ для тестирования систем.
По информации The Washington Post, среди данных, к которым получили доступ ИИ-агенты, оказались внутренние сообщения, стенограммы встреч, сведения о зарплатах персонала и определённая информация о клиентах Anthropic. Несмотря на это, представители Anthropic заявили, что переписка пользователей с ИИ-моделью Claude, а также исходный код самих моделей не были скомпрометированы.
Этот случай подчёркивает растущую потребность в строгих протоколах безопасности при работе с ИИ-системами, особенно при проведении тестирования на проникновение. Он также акцентирует внимание на рисках, связанных с доступом сторонних ИИ-инструментов к внутренним корпоративным данным, даже если цель такого доступа изначально благая.
Часто задаваемые вопросы
Что произошло с Anthropic?
ИИ-агенты стороннего стартапа Cathedral, нацеленные на поиск уязвимостей, получили доступ к части внутренних систем компании Anthropic, затронув конфиденциальные данные.
Какие данные были скомпрометированы?
ИИ-агенты получили доступ к внутренним сообщениям, стенограммам встреч, информации о зарплатах сотрудников и данным некоторых клиентов. При этом переписка пользователей с Claude и исходный код моделей остались нетронутыми.
Кто такой стартап Cathedral?
Cathedral — это стартап, который разработал ИИ-агентов, использованных для тестирования безопасности систем Anthropic. Целью было выявление уязвимостей.
Почему этот инцидент важен?
Инцидент подчёркивает риски, связанные с использованием ИИ для тестирования безопасности, и необходимость усиленных протоколов защиты данных даже при применении таких инструментов внутри компании или от доверенных партнёров.
Источник: RB.RU · Rusability ИИ
Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!