OpenAI подтвердила сотрудничество с правительством США для выявления скрытых операций влияния

В официальном заявлении компания OpenAI сообщила о сотрудничестве с американскими правительственными структурами для выявления и предотвращения попыток использования её технологий в целях дезинформации. В ходе совместной работы были обнаружены три скрытые операции влияния, которые использовали ИИ для генерации контента и распространения его на государственных ресурсах США. Подробности о характере этих операций, а также о том, какие конкретно государственные сайты были затронуты, пока не раскрываются.

Выявленные кампании использовали передовые модели искусственного интеллекта для создания убедительных текстов, изображений и, возможно, видео, направленных на формирование общественного мнения или манипуляцию информацией. Действия OpenAI и правительства направлены на предотвращение использования ИИ в злонамеренных целях и защиту целостности государственных информационных платформ. Это сотрудничество подчёркивает растущую обеспокоенность по поводу потенциального неправомерного использования генеративного ИИ в политических процессах и общественной дискуссии.

Этот инцидент демонстрирует необходимость усиленного взаимодействия между технологическими компаниями и государственными органами для обеспечения безопасности и достоверности информации в цифровую эпоху. Подобные случаи могут стать прецедентом для разработки новых протоколов и политик по противодействию дезинформации, генерируемой ИИ, как на внутреннем, так и на международном уровне.