Дорогие токены: исследование показало, куда уходит бюджет при работе с ИИ-агентами
Значительная часть затрат при использовании ИИ-аагентов для кодирования идёт не на генерацию нового кода или диалог, а на повторную пересылку уже обработанной информации (контекста), согласно исследованию на Habr.
Эксперты проанализировали около 40 реальных сессий разработки с моделями Claude Code и Codex. Выяснилось, что доминирующая доля финансовых расходов приходится на постоянную передачу уже отправленного контекста, что значительно увеличивает общий счёт за использование ИИ-помощников.
Такой «налог на контекст» возникает из-за архитектуры больших языковых моделей, которые требуют отправки полной истории взаимодействия каждый раз при новом запросе. Это позволяет ИИ сохранять последовательность диалога, но приводит к неэффективному расходованию токенов и, как следствие, средств.


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!