Академик Дэн Чжунхань предложил способ снизить «галлюцинации» у ИИ

Дэн Чжунхань, известный китайский академик, выступил с инициативой по повышению надёжности больших языковых моделей (БЯМ). По его мнению, если встроить ограничения и правила, обычно присущие центральным процессорам (CPU), непосредственно в архитектуру нейросетей на их базовом уровне, это поможет системам ИИ действовать более логично и снизит количество ошибок, известных как «галлюцинации».

Проблема «галлюцинаций», когда ИИ генерирует ложную или бессмысленную информацию, остаётся одним из главных препятствий на пути широкого внедрения больших языковых моделей в критически важные сферы. Предложение академика направлено на то, чтобы придать ИИ-моделям большую структурность и предсказуемость, заставляя их следовать определённым логическим рамкам, подобно тому, как CPU обрабатывает данные согласно строгим инструкциям.

Такой подход может открыть новые перспективы для создания более надёжных и безопасных систем искусственного интеллекта, особенно в областях, где точность и достоверность информации имеют первостепенное значение, например, в медицине, юриспруденции или инженерии. Интеграция аппаратных принципов в программную логику ИИ может стать важным шагом к преодолению текущих ограничений технологии.