CPU, GPU И RAM

AMD Instinct MI350P: инференс LLM и границы серверного рендеринга

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

MI350P — PCIe144 ГБ с явными настройками 600 и450 Вт, а не замена OAM MI350X.

AMD Instinct MI350P рассматривается как конкретная аппаратная конфигурация CDNA 4. Заявленные 144 ГБ задают исходный бюджет проверки, но сами по себе не являются результатом измерения инференса либо пакетного рендеринга.

Точная модель и варианты памяти

MI350P — серверная PCIe-плата CDNA4 на 144 ГБ HBM3e. AMD указывает максимум 600 Вт и настраиваемый режим 450 Вт; это не две самостоятельные модели GPU.

ВариантПамятьЗаявленная мощность платыОхлаждение / формат
MI350P PCIe144 ГБ HBM3e600 max / 450 configurable ВтПассивное; PCIe server board

Характеристики: Официальная документация продукта или поддержки.

Движок LLM и бюджет памяти

Для gfx950 проверяются точная ROCm-конфигурация и поддержка операций выбранного движка. Бюджет 144 ГБ не равен памяти OAM MI350X. Сохраните выбранный режим мощности при проверке модели и контекста.

Запись поддержки ROCm не подтверждает каждый движок инференса, модельное ядро или формат квантования.

Основание совместимости: Матрица совместимости ROCm.

Cycles и пакетный рендеринг

CDNA4 остаётся отдельной архитектурой от RDNA. Стандартные требования Cycles5.2 HIP не подтверждают этот ускоритель только из-за современного ROCm либо большей памяти. Нужна отдельная совместимость конкретного рендера.

Руководство Blender 5.2 LTS по GPU-рендерингу.

Интеграция в сервер или рабочую станцию

Сопоставьте пассивную PCIe-плату с одобренным производителем шасси и подключением питания. Запишите использование максимума 600 Вт либо конфигурации 450 Вт. PCIe не делает установку эквивалентной обычной настольной видеокарте или модулю OAM.

Конкретный сценарий проверки

Серверная команда рассматривает MI350P, поскольку узел принимает PCIe-ускорители вместо OAM. Сохраните поддерживаемую физическую конфигурацию и сначала выполните фиксированный опыт модели с контекстом в бюджете 144 ГБ. При оценке обоих режимов мощности создайте отдельные манифесты с неизменными весами и runtime. Не переносите выводы размещения MI350X 288 ГБ. Доказательства должны объяснять реальный PCIe SKU, выбранную мощность и наблюдаемый результат исполнения.

Какие доказательства сохранить

Сохраняйте обычную запись проверки вместе с фактическими результатами запуска.

Перед наблюдениями укажите проверенный вариант, программную сборку и режим исполнения. Недоступные измерения оставляйте явно неизвестными.

Следующие поля отделяют опубликованные характеристики от наблюдаемого выделения памяти и завершения заданий, чтобы другой оператор мог повторить тот же опыт в сопоставимом окружении.

Поле доказательстваЧто сохранить для этого профиля
Идентификация платыAMD Instinct MI350P; физический вариант и идентификатор устройства
Границы памяти144 ГБ заявлено; свободная память до и после загрузки
Артефакт инференсаХеш весов, квантование, контекст и конфигурация выгрузки на GPU
Артефакт рендераХеш сцены, версия рендера, выбранный backend и режим подавления шума
Системные условияДрайвер, образ или сборка, корпус и конфигурация охлаждения
Завершение заданияКод завершения, корректность результата и обнаруженные ошибки памяти

Запишите выбранные 450 либо 600 Вт вместо одного максимума; неизменные 144 ГБ не идентифицируют одинаковую рабочую конфигурацию.

Связанные материалы: Связанный разбор: ram-vs-vram, Методика проверки инференса, Каталог GPU NVIDIA и AMD.

← Все материалы