РОУТИНГ LLM

Полная стоимость LLM-роутера: что считать кроме цены токенов

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Полная стоимость включает выбранный инференс, промежуточные сервисы и работу команды. Сравнивать нужно одинаковый полезный результат, сохраняя модель, маршрут и состав функций.

Цена входного и выходного токена — важная часть бюджета, но она не описывает весь путь запроса. В архитектуре могут быть дополнительные функции шлюза, журналы, экспорт, собственные компоненты и работа инженеров. Сравнение только одной строки прайса способно дать неправильное решение даже при точных исходных числах.

Материал проверен 1 ноября 2026 года и предлагает метод расчёта без универсальных ставок. Конкретные тарифы нужно сохранять вместе с датой и выбранным планом, потому что состав продукта и правила оплаты меняются.

Сначала определите полезный результат

Сравниваемой единицей может быть пригодный ответ, обработанный документ или согласованный период обслуживания нагрузки. Миллион токенов полезен как техническая единица, но разные модели могут создавать разное количество токенов для одной задачи.

FinOps Unit Economics разделяет показатели ресурса и бизнес-результата. Для своего расчёта сохраните оба уровня. Технические значения помогут найти ограничения, а прикладная единица — понять, за какую полезную работу платит проект.

Составьте карту всех начислений

Покажите исполнителя модели, шлюз, дополнительные проверки, хранение и экспорт. Для самостоятельного компонента добавьте инфраструктуру и обслуживание. Отметьте, какие строки входят в тариф, а какие оплачиваются отдельно, чтобы не посчитать одну сумму дважды.

Например, Cloudflare pricing отдельно описывает составляющие AI Gateway. Этот источник показывает необходимость читать полный состав предложения, но его условия нельзя переносить на другой продукт. Для каждого варианта нужна собственная проверка.

Учтите рабочее время команды

Запишите действия, которые потребуются регулярно: обновить credentials, изменить маршрут, разобрать ошибку, сверить счёт. Управляемый сервис может сокращать часть этих задач, а собственный шлюз — давать необходимый контроль. Для оценки полезнее измерить конкретные операции, чем объявлять один способ всегда более дешёвым.

Условный пример: два маршрута дают сопоставимый результат инференса, но один требует ручной сверки нескольких источников. Эта работа относится к полной стоимости процесса. Однако её оценка должна отражать ваш порядок работы, а не вымышленный универсальный норматив времени.

Проверьте повторы и дополнительные единицы

Уточните, как учитываются прерывания, кешированные части, reasoning и другие применимые единицы. OpenRouter pricing нужно читать для выбранного плана и модели. У другого шлюза могут быть свои правила, поэтому общий термин «без наценки» ещё не описывает каждую составляющую бюджета.

Проведите контрольный набор и сохраните цепочку попыток. Если разные варианты завершили разное число пригодных задач, сравнение общей суммы без корректного знаменателя будет неполным. Рядом с расходом должны оставаться качество и фактический маршрут.

Используйте результат для следующего этапа

Такой расчёт помогает понять, что стоит финансировать: дополнительный ресурс, настройку сервиса или улучшение учёта. Он не подтверждает гарантированный спрос на новый GPU-пул.

Дальше полезны сверка токенов и биллинга и юнит-экономика инференса.

← Все материалы