AMD Instinct MI350X и MI355X: инференс LLM и границы серверного рендеринга

AMD Instinct MI350X и MI355X рассматривается как конкретная аппаратная конфигурация CDNA 4. Заявленные 288 ГБ задают исходный бюджет проверки, но сами по себе не являются результатом измерения инференса либо пакетного рендеринга.

Точная модель и варианты памяти

MI350X и MI355X имеют по 288 ГБ HBM3e в формате CDNA4 OAM. Их условия 1000 и 1400 Вт существенно отличаются при одинаковой памяти.

Вариант	Память	Заявленная мощность платы	Охлаждение / формат
MI350X OAM	288 ГБ HBM3e	1000 Вт	Server-platform cooling; OAM accelerator
MI355X OAM	288 ГБ HBM3e	1400 Вт	Server-platform cooling; OAM accelerator

Характеристики: Официальная документация продукта или поддержки.

Движок LLM и бюджет памяти

Для gfx950 и 288 ГБ сохраняются точные сборка, модель, контекст и пакетирование. Одинаковая ёмкость не означает равную скорость либо одинаковую доступность операций. Каждое исполнение получает независимое программное заключение.

Запись поддержки ROCm не подтверждает каждый движок инференса, модельное ядро или формат квантования.

Основание совместимости: Матрица совместимости ROCm.

Cycles и пакетный рендеринг

Поддержка вычислений CDNA4 не означает RDNA-совместимость стандартного Cycles HIP. Даже 288 ГБ не устраняют архитектурный порог рендера. Для другого движка требуются отдельные официальные сведения и фактический результат.

Руководство Blender 5.2 LTS по GPU-рендерингу.

Интеграция в сервер или рабочую станцию

Рассматривайте MI350X 1000 Вт и MI355X1400 Вт как разные серверные установки. Сохраните охлаждение платформы, конфигурацию питания и реальную топологию вместо переноса проверки по надписи 288 ГБ. Поддерживаемая конфигурация узла входит в идентификацию ресурса.

Конкретный сценарий проверки

Команда кластера рассматривает две конфигурации производителей с разными OAM. Используйте общий контроль модели с контекстом, сохраняя отдельные манифесты платформ и проверки результатов. Более крупный кандидат исследуется новым опытом. При разном поведении сначала изучите фактические ПО и настройки мощности до архитектурного объяснения. Сравнение документирует оба устройства 288 ГБ без изобретения универсального порядка производительности.

Какие доказательства сохранить

Сохраняйте обычную запись проверки вместе с фактическими результатами запуска.

Перед наблюдениями укажите проверенный вариант, программную сборку и режим исполнения. Недоступные измерения оставляйте явно неизвестными.

Следующие поля отделяют опубликованные характеристики от наблюдаемого выделения памяти и завершения заданий, чтобы другой оператор мог повторить тот же опыт в сопоставимом окружении.

Поле доказательства	Что сохранить для этого профиля
Идентификация платы	AMD Instinct MI350X и MI355X; физический вариант и идентификатор устройства
Границы памяти	288 ГБ заявлено; свободная память до и после загрузки
Артефакт инференса	Хеш весов, квантование, контекст и конфигурация выгрузки на GPU
Артефакт рендера	Хеш сцены, версия рендера, выбранный backend и режим подавления шума
Системные условия	Драйвер, образ или сборка, корпус и конфигурация охлаждения
Завершение задания	Код завершения, корректность результата и обнаруженные ошибки памяти

Условия узлов 1000 и 1400 Вт требуют независимых карточек; 288 ГБ обоих модулей не подтверждают взаимозаменяемые питание либо охлаждение.

Связанные материалы: Связанный разбор: ram-vs-vram, Методика проверки инференса, Каталог GPU NVIDIA и AMD.