Разработчики предлагают чат-ботам честно признавать незнание
На примере создания ИИ-ассистента для клиентской поддержки компании выяснили, что для чат-ботов важнее избегать неверной информации, чем всегда давать ответ, поэтому внедрили функцию честного признания незнания.
Создатели клиентского чат-бота для сайта столкнулись с проблемой «галлюцинаций» искусственного интеллекта. Они отметили, что уверенный, но неверный ответ приносит больше вреда, чем отсутствие ответа вообще. В итоге разработчики решили обучить модель открыто сообщать о неспособности дать точный ответ, если у неё нет достоверных данных.
Интеграция такой функции позволяет ассистенту избежать распространения дезинформации. Если бот не может ответить, он прямо заявляет об этом и предлагает пользователю связаться с оператором, который предоставит необходимую информацию. Этот подход направлен на повышение доверия к ИИ-системам.
Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!