# 48 ГБ VRAM для LLM: одна карта и несколько карт — не одно и то же

Как оценить 48 ГБ VRAM под LLM: одна карта против нескольких устройств, форматы модели, распределение весов и обязательный запас для запросов.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/llm-models-48gb-vram/
Language: ru

48 ГБ VRAM нужно сначала расшифровать: это память одного устройства или сумма нескольких карт. Для одной модели разница принципиальна. На нескольких GPU требуется поддерживаемое распределение, а общий объём сам по себе не создаёт единую локальную память с одинаковой скоростью доступа.

## Проверьте физическую конфигурацию

Запишите число ускорителей и память каждого. [NVIDIA nvidia-smi](https://docs.nvidia.com/deploy/nvidia-smi/index.html) помогает получить наблюдаемую конфигурацию поддерживаемых устройств. Системную RAM и диск указывайте отдельно.

Если объявление показывает только суммарные 48 ГБ, попросите разбивку. Две карты могут находиться в одном сервере или на разных площадках, что создаёт дополнительные различия в обмене и управлении.

Для предварительной заявки не нужны серийные номера и административные ключи. Достаточно точного состава и известных ограничений.

## Выберите способ выполнения

[Руководство vLLM по оптимизации](https://docs.vllm.ai/en/stable/configuration/optimization/) различает способы распределения работы между GPU. Архитектура модели, движок и соединения определяют допустимую схему.

| Конфигурация | Что нужно проверить |
| --- | --- |
| Один GPU с 48 ГБ | Полный расход одной реплики |
| Два GPU по 24 ГБ | Поддерживаемое разделение модели |
| Две независимые реплики | Помещается ли каждая на своей карте |
| Удалённые узлы | Допустимую сеть и распределённый стек |

Эти варианты отвечают на разные задачи. Увеличение числа независимых реплик не увеличивает память модели на одной карте.

## Посчитайте только начальную оценку

Для условных 32 миллиардов параметров в восьми битах получится 32 миллиарда байт весов. Это ещё не бюджет всего сервиса: остаются метаданные формата, рабочие буферы и состояние запросов.

Если в модели смесь экспертов, активное число параметров не заменяет полный набор сохраняемых весов. В паспорте должны присутствовать оба понятия, когда они применимы.

Не подбирайте максимально большой файл исключительно ради заполнения VRAM. Более компактный вариант с нужным качеством может оставлять полезный запас для контекста.

## Проверьте разные запросы

Начните с короткого диалога, затем увеличьте вход и разрешённый ответ раздельно. Только после этого проверяйте несколько сессий. У каждого шага должны быть одинаковые критерии полезного качества.

Для распределённого режима фиксируйте память каждого GPU, а не только общую сумму. Ошибка одного устройства может возникнуть раньше, чем кажется по среднему показателю всей машины.

Отдельно измерьте запуск и восстановление. Перераспределение весов после изменения конфигурации может потребовать другой процедуры, чем простой перезапуск независимой реплики.

Если оборудование состоит из двух карт, приложите к отчёту их отдельные объёмы и способ участия в вычислениях. Для распределённой модели нужны результаты одного общего запуска, для реплик — двух независимых процессов. Сумма показателей мониторинга не заменяет эту схему. При сравнении с одной ёмкой картой сохраните одинаковое число задач и подпишите, измеряете ли время отдельного ответа или весь завершённый поток.

## Параметры технической оценки

Владелец может предложить карту на 48 ГБ или парк меньших устройств, но должен назвать фактическую архитектуру. Оператору полезнее получить проверяемый состав, чем обещание «эквивалента одной большой карты».

Для подготовки изучите [две карты по 24 ГБ](/ru/journal/two-24gb-vs-one-48gb-gpu/), [multi-GPU](/ru/journal/multi-gpu/) и [полный расчёт 70B](/ru/journal/llm-70b-vram-calculation/). Возможную нагрузку выбираем после проверки совместимости, качества и условий размещения, без гарантий по одной сумме памяти.