Дорогие токены: исследование показало, куда уходит бюджет при работе с ИИ-агентами

Эксперты проанализировали около 40 реальных сессий разработки с моделями Claude Code и Codex. Выяснилось, что доминирующая доля финансовых расходов приходится на постоянную передачу уже отправленного контекста, что значительно увеличивает общий счёт за использование ИИ-помощников.

Такой «налог на контекст» возникает из-за архитектуры больших языковых моделей, которые требуют отправки полной истории взаимодействия каждый раз при новом запросе. Это позволяет ИИ сохранять последовательность диалога, но приводит к неэффективному расходованию токенов и, как следствие, средств.

Полученные данные указывают на необходимость оптимизации механизмов работы с ИИ-агентами, особенно в задачах, требующих длительного взаимодействия и множества итераций, например, в разработке программного обеспечения.