⚠️ 🇷🇺 Куда делись мои токены?
Когда работаешь с ИИ-агентом, кажется, что токены уходят на сложные задачи • написать код, разобрать сайт или подготовить отчёт. Но при ближайшем рассмотрении выясняется: основной расход идёт не на полезную работу, а на фоновую «служебную» активность. Постоянные проверки, cron-задачи, статусные запросы и загрузка огромных списков инструментов «на всякий случай» медленно, но верно съедают лимит. Агент ещё ничего не сделал, а токены уже заканчиваются. Автор статьи нашёл эту утечку и рассказал, как ему удалось сократить расход примерно на 4 (цифра обрывается в источнике).
Читать полностью — Habr 📰 — Habr
Получайте такие новости первым
AI анализирует 50+ источников каждые 15 минут. Без кликбейта, без шума — только важное.
Вступить в TelegramБесплатно · Без спама · Отписка в 1 клик
Комментарии
Оставить комментарий