РОУТИНГ LLM

LiteLLM UI: как подготовить управление моделями и ключами

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

LiteLLM UI управляет gateway, а не заменяет проверку его поведения. Подтвердите базу, административный доступ и отдельный клиентский ключ, затем испытайте реальный запрос и ограничения.

LiteLLM UI — административный интерфейс для управления моделями, ключами и связанным учётом gateway. Для него требуется подготовленная установка с нужным состоянием и доступом. Открытая страница входа ещё не подтверждает, что модель подключена и ограничения клиентов работают.

Ниже — порядок первичной проверки по официальным материалам на 1 ноября 2026 года. Используйте отдельный тестовый контур, если рабочая установка обслуживает другие приложения.

Подтвердите требования установки

LiteLLM Admin UI описывает подключение базы и начальный вход. Проверьте, что вы открыли интерфейс нужного gateway, а не другой локальный процесс на похожем порту. Версия и адрес должны быть записаны в карточке установки.

Для развёртывания полезен официальный Docker Quickstart. Минимальный контейнер без базы и связка с сохранением управления — разные режимы. Присутствие master key не создаёт автоматически все функции полноценной административной системы.

Отделите первоначальный вход от постоянной работы

Текущая документация различает начальные credentials из окружения и индивидуальные административные учётные записи. Пройдите описанный для вашей версии процесс и проверьте новый способ входа до отключения первоначального пути. Иначе можно потерять доступ к управлению собственным пилотом.

Не передавайте административный секрет обычному приложению. Его назначение отличается от клиентского вызова модели. В реестре доступа должны быть понятны владельцы управления и порядок замены секретов без публикации их значений.

Добавьте одну модель

Запишите внутреннее имя модели и внешний endpoint, к которому она относится. Введите разрешённые credentials предусмотренным способом и выполните короткий тест. Если интерфейс сохраняет запись, но запрос не проходит, проверяйте отдельно сеть, права поставщика и соответствие имени.

ПроверкаЧто подтверждает результат
Запись появилась в UIКонфигурация сохранена
Контрольный запрос вернул ожидаемый ответМаршрут выполняет базовую задачу
Учёт показал нужную операциюСведения доступны для сверки
Перезапуск сохранил записьПроверен небольшой участок жизненного цикла

Не объявляйте готовность по одному из этих пунктов, если остальные ещё не испытаны.

Выпустите отдельный ключ приложения

Ограничьте тестового клиента нужной моделью и применимыми правилами. Проверьте разрешённый вызов и попытку обращения к запрещённой цели. В интерфейсе полезно видеть настройки, но фактическое ограничение подтверждает ответ gateway.

Условная команда создаёт отдельный ключ для индексатора документов. Он не должен получать административные операции только потому, что администратор использовал UI для его создания. Роли и свойства ключа необходимо проверить по текущей модели доступа продукта.

Проверьте восстановление управления

Сохраните резервную копию нужного состояния и порядок восстановления тестового контура. После перезапуска убедитесь, что модели, клиентский доступ и учёт остаются согласованными. Для обновления версии назначьте повтор тех же контрольных действий.

Дальше читайте о виртуальных ключах и бюджетах LiteLLM. Собственный gateway помогает организовать доступ, но не является готовым каналом продажи токенов без отдельного коммерческого и технического подключения.

← Все материалы