Разработчики столкнулись с избыточным потреблением токенов ИИ-агентами
Разработчики мобильного проекта обнаружили, что искусственный интеллект тратит до 39 000 токенов на старте каждой операции из-за большого объёма предзагружаемых правил и документации.
Проблема проявилась в проекте, где в течение года активно внедрялись различные правила для ИИ-агентов (CLAUDE.md, AGENTS.md, правила Cursor, доменные документы и хуки). Эти файлы, каждый из которых изначально предназначался для решения конкретных задач, со временем стали загружаться постоянно, независимо от сложности запроса.
В ходе аудита выяснилось, что при попытке исправить незначительный отступ у кнопки ИИ-агент запускался с фиксированным объёмом контекста в 39 000 токенов. Один только файл CLAUDE.md весил 70 килобайт, занимая почти 70% всего "always-on" пакета. Это приводило к быстрому исчерпанию доступного контекста при обычных задачах и вынуждало ИИ переходить к суммаризации для крупных запросов.
Для решения проблемы разработчики провели оптимизацию. Файл CLAUDE.md был сокращён до 114 строк (вместо 409), а основной кодекс из 417 строк разделили на более мелкие части. Такой подход позволил значительно снизить стартовое потребление токенов и повысить эффективность работы ИИ-агентов, уменьшив стоимость операций.
Эта ситуация подчёркивает важность эффективного управления контекстом при работе с ИИ-агентами. Неконтролируемое накопление правил и документации может привести к серьёзным расходам и снижению производительности, особенно в мобильной разработке, где ресурсы ограничены.
Часто задаваемые вопросы
Почему ИИ-агенты потребляли так много токенов?
ИИ-агенты потребляли до 39 000 токенов на старте из-за большого количества предзагружаемых правил и документации (например, CLAUDE.md и AGENTS.md), которые загружались при каждой операции.
Как избыточное потребление токенов влияло на работу ИИ?
Избыточное потребление токенов приводило к быстрому исчерпанию доступного контекста для ИИ, что затрудняло выполнение обычных задач и вынуждало систему переходить к суммаризации для более крупных запросов.
Какие меры были предприняты для решения проблемы?
Разработчики оптимизировали правила: сократили размер файлов (например, CLAUDE.md до 114 строк) и разделили большой кодекс на части, что позволило уменьшить объём предзагружаемого контекста.
Каково значение этого случая для разработки с ИИ?
Этот случай демонстрирует важность эффективного управления контекстом для ИИ-агентов, чтобы избежать излишних расходов и повысить производительность, особенно в ресурсно-ограниченных средах, таких как мобильная разработка.
Источник: Habr · Rusability ИИ


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!