ВТБ и МГУ разработали систему для выявления галлюцинаций ИИ-помощников

Новая разработка предназначена для контроля качества работы систем искусственного интеллекта, используемых в банковской сфере. Она помогает проверять, насколько правдивы и точны данные, которые ИИ-помощники предоставляют клиентам или сотрудникам. Это важный шаг для повышения доверия к автоматизированным сервисам и снижения рисков, связанных с некорректной информацией.

Технология анализирует ответы ИИ, сопоставляя их с базой знаний банка и внешней информацией, чтобы выявить любые несоответствия или выдумки. Такая система контроля особенно актуальна для финансовых организаций, где точность данных имеет критическое значение.