CPU, GPU И RAM

NVIDIA Tesla M10: инференс LLM и границы серверного рендеринга

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Учёт M10 означает четыре устройства 8 ГБ и одну физическую плату 225 Вт.

NVIDIA Tesla M10 рассматривается как конкретная аппаратная конфигурация Maxwell. Заявленные 8 ГБ задают исходный бюджет проверки, но сами по себе не являются результатом измерения инференса либо пакетного рендеринга.

Точная модель и варианты памяти

M10 размещает четыре GPU Maxwell по 8 ГБ GDDR5 на одной плате 225 Вт.32 ГБ являются суммой платы, а не памятью обычного выделения одного устройства.

ВариантПамятьЗаявленная мощность платыОхлаждение / формат
M10 board8 ГБ GDDR5 на GPU; 4 GPU; 32 ГБ на плате225 ВтПассивное; PCIe board; four GPUs

Характеристики: Официальная документация продукта или поддержки.

Движок LLM и бюджет памяти

Современный vLLM не поддерживает Maxwell по архитектурному порогу. Для старого совместимого стека проверяйте каждую 8 ГБ GPU и фактическую цель сборки. Плотность виртуальных рабочих столов не подтверждает размещение одной большой LLM.

Современный vLLM требует compute capability7.5 или выше; эта архитектура находится ниже данного порога.

Основание совместимости: Конфигурация CUDA в llama.cpp и матрица архитектур NVIDIA.

Cycles и пакетный рендеринг

Для Cycles проверяются отдельные устройства и реальные сцены на совместимом backend. Четыре независимых кадра могут дублировать сцену в четырёх областях; это не единый бюджет 32 ГБ.

Руководство Blender 5.2 LTS по GPU-рендерингу.

Интеграция в сервер или рабочую станцию

Явно сохраните пассивный серверный воздух и границу 225 Вт на плату. После развёртывания перечислите четыре устройства с учётом режима изоляции. Память виртуального профиля нельзя смешивать с физическими 8 ГБ либо суммой платы 32 ГБ.

Конкретный сценарий проверки

Хост виртуализации повторно используется для контролируемых старых исполнителей. Исправьте строку «одна GPU 32 ГБ», затем запустите малый контроль на каждом видимом физическом устройстве. Сохраните соответствие процессов и проверку выхода. Для рендера подтвердите независимое назначение кадров вместо объединения памяти сцены. Если старый образ не воспроизводит контроль, укажите ограничение совместимости вместо вывода пригодности из исходного назначения плотных рабочих столов.

Какие доказательства сохранить

Сохраняйте обычную запись проверки вместе с фактическими результатами запуска.

Перед наблюдениями укажите проверенный вариант, программную сборку и режим исполнения. Недоступные измерения оставляйте явно неизвестными.

Следующие поля отделяют опубликованные характеристики от наблюдаемого выделения памяти и завершения заданий, чтобы другой оператор мог повторить тот же опыт в сопоставимом окружении.

Поле доказательстваЧто сохранить для этого профиля
Идентификация платыNVIDIA Tesla M10; физический вариант и идентификатор устройства
Границы памяти8 ГБ заявлено; свободная память до и после загрузки
Артефакт инференсаХеш весов, квантование, контекст и конфигурация выгрузки на GPU
Артефакт рендераХеш сцены, версия рендера, выбранный backend и режим подавления шума
Системные условияДрайвер, образ или сборка, корпус и конфигурация охлаждения
Завершение заданияКод завершения, корректность результата и обнаруженные ошибки памяти

Четыре исполнителя 8 ГБ могут загружать четыре копии сцены; сумма 32 ГБ платы не подтверждает совместное размещение модели либо сцены.

Связанные материалы: Связанный разбор: ram-vs-vram, Методика проверки инференса, Каталог GPU NVIDIA и AMD.

← Все материалы