Эксперимент показал завышенную самоуверенность ИИ-моделей в качестве кода

На платформе Habr был проведён эксперимент, целью которого стало выяснение, насколько метка уверенности ИИ-модели в сгенерированном коде соответствует его реальному качеству. Разработчик предложил трём различным моделям решить 20 небольших задач на Python, запросив по три варианта решения для каждой, и обязав модели указывать уровень уверенности в конце ответа (SURE или UNSURE).

Несмотря на возможность указать неуверенность, все 179 полученных ответов были помечены как «CONFIDENCE: SURE», то есть модели выразили полную уверенность в корректности своего кода. Однако, после проверки четыре из этих решений не смогли пройти скрытые тесты, что указывает на ложную самоуверенность ИИ.