В этом материале
Бюджет gateway требует рабочего учёта и проверки применимого уровня. Зафиксируйте период и часовой пояс, затем испытайте превышение; запись суммы в конфигурации сама по себе не подтверждает её исполнение.
Бюджет LiteLLM нужен для контроля использования моделей через ваш gateway, но он полезен только при работающем учёте и правильно выбранном уровне ограничения. До настройки суммы следует определить, относится ли предел к одному клиенту, пользователю, команде или всему прокси.
Материал проверен по официальным источникам 1 ноября 2026 года. Он не описывает банковский лимит и не заменяет сверку фактического счёта внешнего поставщика.
Подтвердите учёт расходов
Budgets and Rate Limits отдельно указывает требования к базе. Если gateway работает в упрощённом режиме без нужного состояния, нельзя предполагать, что все бюджетные функции включены. Сначала проверьте появление записей после небольшого тестового запроса.
Затем сопоставьте стоимость, модель и ключ с ожидаемой операцией. Не запускайте большой поток, пока остаётся непонятным, откуда берётся цена и как учитывается ваша конфигурация модели. Неизвестное начисление не следует автоматически считать нулём.
Назначьте правильную сущность
| Бюджетная задача | Что требуется проверить |
|---|---|
| Один внутренний клиент | Применимый предел его ключа |
| Общий ресурс отдела | Командный бюджет и участие ключей |
| Пользователь в команде | Взаимодействие командных и персональных правил |
| Весь gateway | Глобальную настройку и её область действия |
Не складывайте ограничения разных сущностей в воображаемую общую сумму. В текущей документации для ключа с team_id персональный бюджет владельца не применяется: действуют командные и соответствующие бюджеты участника команды. Поведение нужно сверять с установленной версией; для отчёта сохраните, какое правило срабатывает в вашем сценарии.
Зафиксируйте время сброса
Budget Reset Times and Timezones описывает календарные границы, часовой пояс и настройку времени сброса. В текущей документации месячный период рассматривается с календарным поведением; поэтому текст 30d нельзя объяснять пользователю только как произвольные тридцать суток с момента создания.
Для своей версии сохраните действующее поведение и точный момент следующего сброса. Условный отдел ожидает начало нового бюджета по местному рабочему дню, а сервер использует UTC. Даже одинаковая сумма создаст разные ожидания, если время не оговорено заранее.
Проверьте превышение на малом тесте
Создайте отдельный тестовый доступ с ограниченным объёмом. Выполните согласованный набор коротких запросов и проверьте ожидаемый запрет. Не используйте для эксперимента общий рабочий бюджет, от которого зависят другие приложения.
Отдельно испытайте несколько одновременных операций и сохранение состояния после перезапуска. Цель — понять фактическое поведение выбранной установки, включая момент отражения расходов. Это точнее, чем предположение об абсолютной финансовой гарантии по одному числу в настройке.
Сверяйте внешний счёт
Gateway и поставщик могут агрегировать данные по разным периодам и единицам. Для разницы около границы дня проверьте время завершения операций, часовой пояс и округление. Бюджетный отчёт должен объяснять такие расхождения, а не скрывать их в общей строке.
Для доступа клиентов прочитайте о виртуальных ключах, для полной сметы — стоимости роутинга.