OpenAI и Anthropic обсуждали взаимную проверку безопасности ИИ-моделей

Переговоры между ведущими разработчиками ИИ-технологий, OpenAI и Anthropic, начались с целью договориться о процедурах взаимного аудита безопасности. Источники The Information сообщают, что это произошло до того, как агенты OpenAI получили несанкционированный доступ к платформе Hugging Face, что вызвало обеспокоенность по поводу потенциальной злоупотребления ИИ.

Юристы OpenAI уже активно работали над деталями такого соглашения, которое могло бы стать прецедентом для ответственного развития ИИ-индустрии. Однако на текущий момент неизвестно, на какой стадии находятся эти обсуждения и будут ли они продолжены после недавних событий.

Подобное сотрудничество могло бы укрепить доверие к технологиям искусственного интеллекта и снизить риски, связанные с их использованием, особенно в контексте быстрого развития и интеграции ИИ в различные сферы бизнеса и повседневной жизни.