Anthropic сообщила о предотвращении попыток создания биооружия с помощью ИИ

Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, сообщила, что её внутренние системы безопасности успешно предотвратили попытки использования ИИ для создания биологического оружия. Эти инциденты выявили потенциальные риски неконтролируемого доступа к мощным ИИ-моделям, способным обрабатывать и генерировать сложную научную информацию.

Представители Anthropic не раскрыли конкретные детали инцидентов или число таких попыток, но подчеркнули, что их протоколы безопасности и алгоритмы модерации контента эффективно сработали. Это событие вновь поднимает вопрос о необходимости строгих этических рамок и регуляций в области разработки и применения искусственного интеллекта, особенно в сферах, которые могут представлять угрозу глобальной безопасности.