Счета за GPT растут: маршрутизация моделей и экономия в OpenClaw

Пилот с ИИ-агентами выглядит невинно: несколько сценариев, удобные ответы, команда в восторге. Через месяц приходит счёт за токены, и восторг сменяется вопросом «кто это вообще жжёт». Часто ответ неприятный: почти всё уходит в самую дорогую модель — потому что так было проще настроить в первый вечер.

OpenClaw и похожие связки усиливают эффект: агентов несколько, каждый тащит контекст, повторные попытки и длинные инструкции. Без маршрутизации, кэша и учёта по ролям бюджет тает не на «магии ИИ», а на расточительной сантехнике запросов.

Хорошая новость: стоимость обычно управляема. Плохая: без политики она управляет вами.

Откуда берётся перерасход

Один и тот же класс задач — классификация письма, краткий справочный ответ, суммаризация — гоняют через топовую модель. Дешёвой модели хватило бы с запасом, а разница в цене на потоке становится заметной очень быстро.

Контекст раздувают «на всякий случай»: в запрос тащат длинные истории и документы, хотя агенту нужны три поля. Платите за объём, который не влияет на качество.

Нет кэша на повторяющиеся вопросы. База знаний отвечает одним и тем же дорогим путём сотый раз. Пользователи задают одно и то же — бюджет не обязан.

Нет разметки расходов по агентам и командам. Финансы видят общую сумму, оптимизировать нечего — нет рычагов. Без «кто жжёт» разговор об экономии пустой.

Агенты зацикливаются в уточнениях и инструментальных шагах. Один «задумавшийся» сценарий может стоить как тысяча нормальных диалогов.

Почему это замечают поздно

Пилот оплачивали с энтузиазмом и карты «на тесты». В проде тот же ключ, но уже с потоком сотрудников. Лимиты не пересмотрели.

Бюджетных алертов нет. Сюрприз приходит закрытием месяца, когда оптимизировать уже поздно для отчётности.

Качество измеряют субъективно — «ответы умные», стоимость — никак. Оптимум между ценой и качеством не ищут, потому что нет обоих графиков рядом.

Ошибки экономии, которые ломают продукт

Врубить самую дешёвую модель везде и удивляться деградации сложных задач. Экономия должна быть маршрутизированной, не тотальной. Иначе сэкономите токены и потеряете доверие к каналу.

Резать контекст без критериев. Потеряете нужные факты — получите дешёвые, но вредные ответы. Вредный ответ дороже токена.

Прятать ключи в личных кабинетах сотрудников. Тогда и учёт невозможен, и отзыв доступа болезненный. Корпоративный контур требует корпоративных ключей и ролей.

Игнорировать повторные попытки и циклы агентов. Без потолка «размышлений» агент способен сжечь бюджет молча.

Оптимизировать только модель, забыв про объём контекста и частоту. Иногда выгоднее ужать промпт, чем спорить о линейке моделей.

Как наводят порядок в OpenClaw контуре

Классифицируют задачи: простые, средние, сложные. Для каждого класса — своя модель по умолчанию и правила повышения на дорогую. Сложное остаётся дорогим осознанно, простое — нет.

Вводят кэш и переиспользование для частых вопросов и стабильных справок. Не каждый чих должен рождать полный дорогостоящий проход.

Считают токены и деньги по агентам, командам, сценариям. Появляется таблица «кто жжёт» — появляется управление. Без таблицы остаются только эмоции на совещании.

Ставят бюджетные лимиты и алерты. Лучше остановить раздутый агент, чем объяснять нулевой запас на квартал.

Ужимают контекст осознанно: только нужные фрагменты, сжатие истории, запрет тащить секреты и простыни логов. Меньше мусора во входе — меньше счёта и меньше риска утечки.

Раз в период пересматривают маршруты: что можно снизить классом модели без потери метрик качества — доля успешных диалогов, эскалаций на человека, жалоб. Экономия без метрик качества — лотерея.

Простая политика, которую можно внедрить сразу

Разделите сценарии на три корзины: справочные, операционные, сложные аналитические. Для первой корзины запретите топовую модель без исключения. Для второй — разрешите по правилу. Для третьей — дорогая модель по умолчанию, но с лимитом на пользователя или команду.

Добавьте недельный отчёт: топ агентов по стоимости и топ сценариев по числу повторов. Повторы — кандидаты на кэш. Дорогие агенты без пользы — кандидаты на урезание. Политика работает, только когда её видно в цифрах каждую неделю, а не раз в квартал на постфактуме.

Какие метрики смотреть вместе со стоимостью

Стоимость без качества обманывает: можно сделать очень дешёвого агента, который эскалирует всё на людей и убивает экономию. Смотрите рядом долю успешных диалогов без человека, долю вредных ответов, время решения типового запроса и стоимость тысячи диалогов.

Если после удешевления модели эскалации выросли сильнее экономии, маршрут неправильный. Верните класс модели для этого сценария и ищите экономию в кэше и контексте. Управление токенами — это оптимизация системы, а не соревнование «кто взял моделью дешевле».

И ограничьте число людей с правом менять маршруты моделей. Иначе каждый энтузиаст вернёт всё на дорогую модель «на всякий случай», и экономия исчезнет за неделю. Политика без контроля изменений не живёт.

На старте промышленной эксплуатации задайте месячный потолок расходов и владельца, который смотрит отчёт еженедельно. Без владельца потолок — просто цифра в таблице, которую все перепрыгивают.

Раз в месяц пересматривайте топ 5 самых дорогих сценариев вместе с владельцем продукта. Без такого ритуала маршрутизация снова расползается к «всего на всякий случай».

Итог

Растущие счета за GPT — чаще симптом отсутствия политики маршрутизации, а не «ИИ слишком дорогой сам по себе». Когда простые задачи идут дёшево, сложные — осознанно дорого, а расходы видны по агентам, бюджет снова становится управляемым.

Для руководителя хороший результат — предсказуемая стоимость сценария и понимание, за что платит компания. Для команды — агенты, которым не стыдно за расточительность.

Настроить такой режим в контуре агентов можно в рамках Развёртывание и настройка OpenClaw ботов: маршруты моделей, кэш, лимиты и учёт, чтобы пилот не съел бюджет боевой эксплуатации.