# RAM и VRAM: какую память считать при выборе AI-сервера

Чем системная оперативная память отличается от видеопамяти GPU и как составить паспорт AI-сервера без ошибочного сложения этих ресурсов.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/ram-vs-vram/
Language: ru

Объявление «сервер с большой памятью» не объясняет, подходит ли он для языковой модели. Иногда имеется в виду системная RAM, иногда память видеокарты, иногда сумма нескольких устройств. Для владельца оборудования точное описание помогает избежать отказа по недоразумению и завышенных ожиданий от конфигурации.

## Запишите два ресурса отдельно

RAM — оперативная память хоста, с которой работает центральный процессор и системное ПО. VRAM в обычном GPU-сервере — память ускорителя, используемая соответствующим вычислительным окружением. Физическая организация может различаться, поэтому проверяют конкретное устройство и его способ доступа.

В [сводке ускоренных EC2-конфигураций](https://docs.aws.amazon.com/ec2/latest/instancetypes/ac.html) ресурсы хоста и ускорителей перечисляются отдельно. Такая форма полезна и для паспорта собственной машины: RAM сервера, модель каждой карты и её память должны занимать разные строки.

Добавьте также число карт. Несколько GPU не становятся одним устройством только потому, что установлены в одном корпусе.

## Разделите хранение и выполнение

Файлы модели лежат на диске, при запуске данные загружаются в нужные области памяти. Для работы требуются не только веса, но и состояние запросов и буферы выбранного движка.

[Hugging Face описывает стратегии KV-кеша](https://huggingface.co/docs/transformers/kv_cache), включая разные компромиссы размещения. Возможность перенести данные в память CPU не доказывает, что модель будет обслуживаться с той же задержкой, что и при другом размещении.

Поэтому фраза «всё помещается в общую память» требует уточнения. Где именно находятся веса? Где обрабатываются запросы? Какие передачи происходят при каждом обращении?

## Составьте карту одной модели

Для условного пилота нарисуйте четыре блока: диск, RAM, VRAM и клиентский ответ. Подпишите загрузку при старте и обмен во время работы. Не нужны сложные схемы: важна понятная граница каждого ресурса.

Затем проверьте короткий запрос, длинный вход и несколько параллельных сессий. Сохраняйте потребление обоих типов памяти и время полного ответа. Это помогает отличить нехватку VRAM от нехватки ресурсов хоста.

Если проблема возникает только при загрузке или обновлении, обсуждайте соответствующий этап. Покупка карты с большей памятью не обязательно решит ограничение системной RAM во время подготовки данных.

## Не складывайте гигабайты без архитектуры

Объединение модели между устройствами требует поддержки ПО и подходящего соединения. Сумма объёмов — инвентарное описание, но не готовая характеристика скорости и доступной памяти одной операции.

То же относится к удалённым серверам. Память другой машины не становится локальной VRAM через обычный факт подключения к пулу. Сначала выбирается способ распределения, затем проверяются задержки и устойчивость.

Для финансирующего партнёра это означает необходимость видеть архитектурное обоснование закупки. Таблица «ещё столько гигабайтов» недостаточна без указания, какую проверенную задачу они позволяют выполнять.

## Как составить технический паспорт

Пригодность конфигурации определяется тестом конкретной модели, контекста и параллельной нагрузки.

Продолжить помогут материалы о [VRAM для LLM](/ru/journal/vram-and-models/), [multi-GPU](/ru/journal/multi-gpu/) и [серверах с увеличенной RAM](/ru/journal/memory-optimized-hosting/). Такой паспорт делает предложение оборудования предметным и сохраняет технические ожидания реалистичными.