Калифорния ввела первые в США меры защиты от ИИ-рисков

Принятый закон предписывает разработчикам и компаниям, использующим мощные модели ИИ, проводить обязательную оценку рисков. Эти оценки будут включать проверку систем на предмет возможности использования для создания опасных биологических или химических веществ, кибератак или автономизации опасных систем без контроля человека.

Кроме того, новые правила требуют от компаний предоставлять отчёты о безопасности своих ИИ-систем, включая информацию о методах тестирования и выявленных уязвимостях. Это позволит регуляторам и общественности лучше понимать потенциальные риски и принимать меры по их снижению.

Ньюсом также призвал федеральное правительство США разработать аналогичные общенациональные стандарты, подчеркнув, что проблема регулирования ИИ требует скоординированного подхода на всех уровнях. Инициатива Калифорнии может стать прецедентом для других штатов и повлиять на формирование федеральной политики в области искусственного интеллекта.

Введение этих мер отражает растущую обеспокоенность по поводу безопасности и этичности использования ИИ, особенно после появления таких мощных генеративных моделей, как GPT. Власти стремятся балансировать между стимулированием инноваций и предотвращением возможных негативных последствий технологического прогресса.