⚠️ 🇷🇺 Куда делись мои токены?

Когда работаешь с ИИ-агентом, кажется, что токены уходят на сложные задачи • написать код, разобрать сайт или подготовить отчёт. Но при ближайшем рассмотрении выясняется: основной расход идёт не на полезную работу, а на фоновую «служебную» активность. Постоянные проверки, cron-задачи, статусные запросы и загрузка огромных списков инструментов «на всякий случай» медленно, но верно съедают лимит. Агент ещё ничего не сделал, а токены уже заканчиваются. Автор статьи нашёл эту утечку и рассказал, как ему удалось сократить расход примерно на 4 (цифра обрывается в источнике).

Читать полностью — Habr 📰 — Habr

👍 12 👎 1 Читать полностью на Habr →

Читать полностью на Habr →

Получайте такие новости первым

Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.

Вступить в Telegram

Бесплатно · Без спама · Отписка в 1 клик