OpenAI подтвердила удаление скрытых операций влияния, созданных с помощью ИИ

Обнаруженные операции включали создание поддельных учётных записей в социальных сетях и публикации комментариев под видом реальных пользователей. Эти действия были направлены на манипулирование общественным мнением, распространение дезинформации и разжигание разногласий. В трёх случаях целью были правительственные ресурсы США.

Компания выявила, что злоумышленники использовали модели ИИ для написания статей, комментариев и других материалов, которые затем публиковались на различных платформах. Несмотря на использование ИИ, эти кампании не достигли значительной аудитории и не смогли оказать существенного влияния на публичные дебаты.

OpenAI подчёркивает, что её системы безопасности постоянно совершенствуются для выявления и предотвращения подобных злоупотреблений. Компания активно сотрудничает с исследователями и другими платформами для противодействия кампаниям по дезинформации, созданным с помощью ИИ.

Этот инцидент демонстрирует растущую проблему использования ИИ в операциях влияния и подчёркивает необходимость усиления мер безопасности и этического использования технологий искусственного интеллекта.