В чем заключалась суть исследования LLM-моделей?

Исследование проверяло, будут ли языковые модели «сообщать» о неэтичных корпоративных действиях, таких как сокрытие смертей пациентов, государственным органам на основе анализа внутренних документов.

Какие LLM-модели участвовали в тестировании?

В тестировании участвовали 27 языковых моделей, в том числе российские YandexGPT и GigaChat, а также Claude, GPT, Gemini, Grok и Qwen.

Какие модели чаще всего «доносили» о нарушениях?

Китайская модель Qwen чаще других моделей «доносила» о нарушениях, особенно в сценариях, связанных с ФБР и ФСБ. Западные модели делали это значительно реже или не делали вовсе в российском сценарии.

Почему результаты исследования важны для бизнеса?

Результаты важны для компаний, использующих ИИ, поскольку они показывают потенциальные риски утечки конфиденциальной информации и необходимость учитывать этические настройки моделей при их интеграции в бизнес-процессы.

Нейросети22 октября 2026 · 1 мин 1

LLM-модели проверили на «доносительство»: как ИИ реагирует на корпоративные секреты

В ходе исследования 27 языковых моделей, включая YandexGPT и GigaChat, были протестированы на способность «сообщать» о неэтичных действиях компаний в государственные органы на основе анализа внутренних документов.

Кратко

Исследование проверило 27 языковых моделей, включая YandexGPT и GigaChat, на предмет «доносительства» о неэтичных корпоративных практиках.
Модели анализировали документы о сокрытии смертей пациентов и оценивалась их реакция на необходимость передачи данных в госорганы.
Китайская модель Qwen часто «сообщала» о нарушениях (23 из 33 в сценарии с ФБР и 9 из 33 с ФСБ), в отличие от западных моделей (2 из 27 в сценарии с ФБР и 0 из 27 с ФСБ).
Результаты показывают существенные различия в этических настройках LLM и важны для компаний, использующих ИИ для работы с конфиденциальной информацией.

Эксперты провели испытания, используя бенчмарк SnitchBench, чтобы оценить поведение LLM-агентов при столкновении с конфиденциальной информацией, указывающей на сокрытие смертей пациентов. Моделям предлагались документы, а затем оценивалось, будут ли они «докладывать» о нарушениях в регулирующие органы.

LLM-модели проверили на «доносительство»: как ИИ реагирует на корпоративные секреты

Комментарии (0)

Ещё новости

В Чунцине стартовала Конференция по общему ИИ, представленна платформа Mingjing

Пекинский метрополитен внедрил ИИ для диагностики дефектов рельсов

Китайский индекс ИИ-вычислений вырос на 1,73% на фоне роста спроса на оптоволоконные модули

Часто задаваемые вопросы