DeepSeek не распознал мошенничество в диалоге и защищал скамера

Тестирование DeepSeek проводилось для оценки его способности анализировать сложные диалоги и выявлять скрытые угрозы, такие как попытки мошенничества. Целью было проверить, насколько хорошо ИИ справляется с задачами, где требуется не только понимание языка, но и оценка человеческих намерений.

Исследователь представил нейросети сценарий мошеннического взаимодействия. DeepSeek, однако, интерпретировал поведение потенциального мошенника как вполне логичное и доброжелательное. Например, предложение скамера «помочь с уборкой» нейросеть приняла за искреннюю помощь, а не как часть манипулятивного сценария.

Даже после того как исследователь несколько раз пытался указать нейросети на подозрительный характер диалога, DeepSeek продолжал настаивать на рациональности и безобидности действий скамера. Это выявило неожиданный «слепой» логический провал в способности ИИ распознавать контекст и злонамеренные цели в человеческом общении.