IT-компания рассказала о неожиданных сбоях в LLM-конвейере закупок

Система компании занимается автоматизированным поиском тендеров, ежедневно сканируя данные с шестнадцати закупочных площадок. После первичной фильтрации названий, новые заявки поступают на этап предварительной оценки, где недорогая языковая модель определяет их релевантность. Для тендеров-кандидатов далее выкачивается полная документация, которую средняя LLM обрабатывает, собирая единый контекст.

Выявленные проблемы были связаны с ошибками парсинга, изменениями в форматах данных на площадках, нестабильностью работы агрегатора и неверной обработкой объёмной документации. Опыт компании демонстрирует, что внедрение ИИ в бизнес-процессы требует комплексного подхода к надёжности всех компонентов системы, а не только оптимизации моделей или промтов.