CPU, GPU И RAM

NVIDIA GeForce RTX 5090 D v2: LLM-инференс и GPU-рендеринг

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

RTX 5090 D v2 имеет 24 GB, исходная D — 32 GB; одинаковое семейство не позволяет переносить между ними бюджет задачи.

Считать v2 частью идентичности

RTX 5090 D v2 — официальная региональная модель с 24 GB GDDR7 и характеристикой мощности платы 575 W. У первоначальной RTX 5090 D были 32 GB, поэтому пропущенный суффикс v2 меняет смысл записи. Глобальная RTX 5090 тоже не заменяет эту спецификацию. Таблица показывает память на одном GPU и эталонные данные: фактическая AIB конструкция требует отдельной сверки. Нельзя выводить специальные программные ограничения, цены или текущую доступность из одного имени. Для практической оценки достаточно сначала установить наблюдаемую карту и не приписывать ей ресурс соседнего SKU в каталоге.

Официальный вариантПамять на GPUТип памятиМощность платыИсточник
NVIDIA GeForce RTX 5090 D v2 — версия для Китая RTX 5090 D v2 24 GB24 GBGDDR7575 WСпецификация

Проверить envelope задачи на 24 GB

Документация vLLM описывает аппаратный минимум и установку; общая поддержка Blackwell не доказывает каждый checkpoint или kernel. При переходе с исходной D сохраняют ту же модель, но заново проверяют фактическую память после загрузки и выбранный контекст. Если конфигурация перестала помещаться, различают веса, KV cache и временные структуры. Простой перенос прежних параметров без измерения создаёт ложное ожидание. Формат quantization, dtype и offload остаются явными полями manifest. Уменьшенный footprint проверяют вместе с качеством результата. Этот профиль не содержит выдуманной скорости или обещания, что любое задание класса 24 GB обязательно пройдёт на конкретном engine.

Отдельно принять render job

Для Cycles CUDA и OptiX фиксируют версию Blender, драйвер и выбранное устройство. Сохранённая сцена проходит собственный тест резидентности, отличный от LLM. Если проект ранее запускался на 32 GB карте, повторяют подготовку и рендер, наблюдая VRAM и host RAM. Факт завершения через системную память сохраняют как другой режим, а не скрывают в общем успешном статусе. RT hardware используется поддерживающим backend, но не подтверждает возможности каждого renderer. Итоговое изображение и журнал нужны вместе: успешный exit без полного файла результата недостаточен для принятия серверного задания в рабочую очередь.

Привязать конфигурацию worker к SKU

Worker хранит полное имя с v2, device identity и конкретную AIB модель. Если автоматический инвентарь нормализует D и D v2 в одно имя, исправляют эту нормализацию до планирования заданий. Профиль допуска с 32 GB нельзя использовать для 24 GB устройства только из-за совпадения семейства. Отдельно сверяют питание сервера и охлаждение выбранной платы. Значение 575 W относится к характеристике board design, а не к измеренному постоянному потреблению каждого запроса. В нескольких GPU процессы получают явно выбранные устройства; память разных карт не считается автоматически объединённой ёмкостью одного задания.

Зафиксировать миграционную развилку

Проверочный артефакт содержит старый manifest, новую инвентарную запись и результаты одинаковых LLM и scene fixtures. При несовпадении сначала определяют слой: идентичность карты, software backend или память задачи. Если проблема воспроизводится только на длинном контексте, корректируют соответствующий budget и повторяют ограниченный опыт. Если не обнаруживается render device, исследуют сборку и драйвер, а не capacity. Решение описывает пригодность конкретной RTX 5090 D v2 для выбранных файлов. Оно не утверждает равенства с глобальной RTX 5090, правовой доступности поставки или готовности сервиса к внешнему подключению без самостоятельной проверки такого контракта.

Локальная LLM на 24 ГБ VRAM: что проверить помимо весов · Паспорт GPU в CSV: какие поля выгрузить из nvidia-smi · Каталог GPU

← Все материалы