Anthropic предложила США ввести лимиты на мощные ИИ-модели

Предложение Anthropic затрагивает так называемые «опасные» модели ИИ. По мнению компании, такие системы требуют особого контроля из-за потенциально высокого риска. Критерии «опасности» включают возможность причинения вреда значительному числу людей или масштабного финансового ущерба.

Цель инициативы — создать регуляторные рамки для безопасного развития и применения передовых ИИ-технологий. Это позволит предотвратить нежелательные последствия их использования, не замедляя при этом прогресс в отрасли.

Подобные предложения отражают растущее осознание среди ведущих разработчиков ИИ необходимости государственного регулирования. Они стремятся найти баланс между инновациями и безопасностью, чтобы избежать кризисных сценариев, связанных с бесконтрольным развитием мощных ИИ-систем.