В этом материале
У RTX 2080 Ti 11 GB на GPU: нельзя округлять её до класса 12 GB или считать две карты одним автоматически объединённым ресурсом.
Turing с ёмкостью 11 GB
RTX 2080 Ti имеет 11 GB GDDR6. В таблице сравнения NVIDIA для её reference/FE дизайна указаны 260 W; это характеристика описанного исполнения, а не универсальный лимит всех партнёрских плат. Память относится к одному GPU. Необычный относительно привычных классов объём нельзя округлять до 12 GB в scheduler. Установленная карта требует AIB identity, документации питания и baseline доступной VRAM. RTX 2080 и RTX 2080 SUPER являются другими моделями. При повторном использовании Ti важно сохранить точные сведения, чтобы современная задача не получила ресурсы, которых у фактического устройства нет.
| Официальный вариант | Память на GPU | Тип памяти | Мощность платы | Источник |
|---|---|---|---|---|
| NVIDIA GeForce RTX 2080 Ti — 11 GB дизайн из сравнительной таблицы NVIDIA (reference/FE) | 11 GB | GDDR6 | 260 W | Спецификация |
Проверить Turing путь inference
NVIDIA относит RTX 2080 Ti к CC 7.5, что соответствует текущему аппаратному минимуму vLLM. Это не обещание всех dtypes, attention backends или quantization kernels. Не следует переносить конфигурацию более новой архитектуры без сверки. На Ti сохраняют точную версию engine, checkpoint, tokenizer и bounded request. После загрузки измеряют память и работу на выбранном контексте. Если свободная VRAM есть, но операция не поддерживается, причина может быть программной. При llama.cpp CUDA отдельно фиксируют offload: успешный гибридный запуск не является доказательством полной резидентности или совместимости другого serving engine.
Cycles использует отдельные требования
Blender Cycles описывает CUDA/OptiX и применение аппаратной RTX трассировки. Для Turing Ti запускают упакованную сцену с известными assets и настройками. Проверяют выбранное устройство, изображение и память. Если сцена использует системную RAM, это не означает, что локальные 11 GB расширились. Другой renderer требует собственного списка возможностей. Успех одной сцены не обещает поддержку любых материалов и будущих проектов. При изменении backend сохраняют обе конфигурации и результаты, чтобы различия подготовки или качества изображения не скрылись за одним общим значением времени работы приложения.
Дать scheduler реальную ёмкость
Worker registry хранит 11 GB nominal capacity отдельно от измеренного доступного остатка. Admission использует проверенный manifest, не присваивая карте класс 12 GB по округлению. Несколько Ti также не считаются автоматически единым пулом памяти для checkpoint. Сначала определяют поддерживаемый способ распределения приложения, если он вообще нужен. Наблюдают CPU/RAM при offload, driver и остаточные процессы. Питание узла учитывает всю систему, а 260 W из источника относятся к конкретному дизайну карты. Штатную диагностику выполняют без изменения clocks или отключения защит; нестабильность требует сохранённых наблюдений, а не подгонки конфигурации ради успешного статуса.
Проверка округления и причины отказа
Практический артефакт содержит инвентарную запись, правило worker class и результаты LLM и сцены. Проверяют, что задача с неподтверждённым budget не допускается только из-за округления. Если назначение корректно, далее различают memory pressure и unsupported operation. Сцена с отсутствующим asset указывает на файловый пакет, а не на ёмкость Ti. Итог определяет ограниченный operational envelope RTX 2080 Ti 11 GB. Он не обещает автоматический fit, известный TPS или объединение VRAM и не превращает выполнение аппаратного минимума vLLM в сертификацию всего современного inference стека.
VRAM для LLM: почему размер модели — не весь расчёт · Несколько GPU в пуле: общий сервис или одна большая модель · Каталог GPU