# Установка vLLM: как проверить GPU, драйвер и сборку

Как устанавливать vLLM без случайного набора зависимостей: ОС, архитектура GPU, драйвер, Python, PyTorch и точная версия сборки.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/vllm-install-compatibility/
Language: ru

Установка vLLM начинается с проверки поддерживаемой платформы и сборки, а не с последовательного обновления всех пакетов. Совместимость зависит от GPU, ОС, драйвера, Python и библиотек движка. Для воспроизводимого пилота выбирайте документированный маршрут установки и сохраняйте точные версии. Успешный импорт Python-модуля ещё не означает, что модель сможет работать на выбранном ускорителе.

## Составьте паспорт программной среды

Запишите модель GPU, доступную VRAM, архитектуру процессора, ОС, версию драйвера и способ запуска: локальный Python или контейнер. Для нескольких карт укажите каждую отдельно. Одинаковое торговое название семейства не гарантирует одинаковую поддержку вычислительных ядер в выбранном пакете.

[Официальная инструкция GPU](https://docs.vllm.ai/en/stable/getting_started/installation/gpu/) содержит отдельные маршруты для аппаратных платформ. Не переносите команду NVIDIA на AMD и не считайте, что пакет с подходящим номером Python автоматически содержит нужный backend. Выбор CPU-архитектуры также влияет на доступность готовых образов.

## Разделите драйвер и библиотеки пакета

На хосте драйвер обеспечивает доступ к устройству. В окружении движка находятся пользовательские библиотеки и скомпилированные расширения. Версия CUDA, показанная диагностикой драйвера, не равна списку библиотек в виртуальном окружении. Поэтому совет установить «такую же CUDA» без разбора компонентов часто уводит диагностику в сторону.

Практический порядок: сначала проверить карту системной утилитой, затем выбранную сборку движка, затем небольшую поддерживаемую модель. Если ошибка появляется на второй ступени, размер большой модели пока не имеет значения. Сохраните оригинальный текст ошибки отсутствующей библиотеки либо несовместимого ядра.

## Выберите один маршрут установки

Для чистого Python создайте отдельное окружение и следуйте команде из документации своей платформы. Не смешивайте случайно системный PyTorch, зависимости другого проекта и пакеты из нескольких инструкций. Если требуется нестандартная сборка, зафиксируйте причину и исходный commit, чтобы её можно было воспроизвести.

Контейнерный вариант упрощает фиксацию зависимостей, но тоже требует совместимого хоста. [Документация Docker vLLM](https://docs.vllm.ai/en/stable/deployment/docker/) объясняет официальные образы. Начальный пример приведён в [отдельной инструкции запуска](/ru/journal/vllm-docker-first-launch/). Смена контейнера не исправляет отсутствие доступа GPU на хосте.

## Проверьте поддержку модели отдельно

Поддержка ускорителя и поддержка архитектуры модели — две независимые проверки. Сопоставьте checkpoint со списком движка, включая используемый формат квантования. Ошибка неизвестной архитектуры отличается от ошибки драйвера и от нехватки видеопамяти.

Для приёмки возьмите небольшой контрольный checkpoint и один короткий запрос. Если он проходит, повторите тест с целевой моделью. Такая пара опытов позволяет показать, что базовый движок исправен, а проблема относится к конкретному артефакту, его формату или ресурсам. Измерения сохраняйте до очередного обновления пакетов.

После выбора рабочего маршрута обновляйте компоненты контролируемо. Сохранённый контрольный запрос помогает заметить изменение результата и вернуться к известной комбинации, если новый выпуск нарушил требуемый сценарий.

## Передавайте воспроизводимую среду вместе с GPU

Паспорт запуска должен позволять другому оператору повторить результат: версия образа либо lock-файл, идентификатор модели, параметры и журнал готовности. Дополните его требованиями к свободному диску и оперативной памяти. Принципы фиксации перечислены в [материале о воспроизводимом стеке](/ru/journal/software-stack-reproducibility/).

Владельцу машины такой паспорт снижает объём повторной настройки. Финансовому партнёру он показывает, какие расходы относятся к оборудованию, а какие — к подготовке среды.