В этом материале
MI300A объединяет CPU и GPU в платформе APU со 128 ГБ общей HBM3. Это совместный бюджет, а не отдельная VRAM GPU плюс ещё 128 ГБ для CPU.
Определить APU, а не сменную видеокарту
Технический документ AMD CDNA 3 различает MI300A и MI300X. MI300A объединяет ресурсы CPU и GPU со 128 ГБ единой HBM3; MI300X является ускорителем GPU с другой спецификацией выделенной памяти. Общую ёмкость MI300A нельзя дважды учитывать в инвентаризации сервера. Выделения CPU и работа GPU используют один физический бюджет. Механика платформы, прошивки и охлаждение являются частью продукта. Поэтому MI300A не следует описывать как обычную видеокарту PCIe, которую можно установить в произвольную рабочую станцию без учёта её системной конструкции.
| Вариант | Локальная память, ГБ | Тип памяти | Заявленная мощность платы, Вт |
|---|---|---|---|
| MI300A APU | 128 | HBM3 shared CPU/GPU | Не подтверждена |
Конфигурацию подтверждает спецификация производителя или OEM: первоисточник.
Проверить конкретное сочетание ROCm и фреймворка
Аппаратный справочник ROCm относит MI300A к семейству CDNA 3 gfx942, однако сама идентификация архитектуры не является подтверждением движка. Нужно использовать матрицу для выбранной операционной системы, драйвера и runtime, затем проверить способ развёртывания фреймворка на MI300A. Пример MI300X нельзя подставлять без изучения предположений о платформе. Проверяются корректность выбранных модели и точности, размещение памяти и необходимые перемещения данных. Появление устройства в инвентаризации не доказывает работу конкретной реализации attention или квантования. Особенно важно сохранять в записи фактически использованный программный путь.
Граница поддержки описана в документации стека инференса.
Учесть конкурирующие выделения CPU и GPU
Единая память способна изменить перемещение данных, но не отменяет учёт ёмкости. Операционной среде, предварительной обработке на CPU, весам модели, рабочим областям runtime и кешам требуется место внутри общего физического бюджета. Нужно измерять рабочий набор процессов и поведение аллокатора при реальных длинах запросов. Отчёты памяти со стороны хоста и GPU нельзя складывать как независимые пулы. Полезное сравнение объясняет размещение тензоров и влияние параллельной работы CPU на свободный резерв. Общая адресация сама по себе не подтверждает отсутствие копирований или измеренное ускорение для любого фреймворка.
Отделить вычисления CDNA от графики Cycles HIP
MI300A является вычислительной платформой CDNA. В актуальной документации Blender Cycles HIP базовым поколением оборудования AMD служит RDNA 1 или новее. Устройство CDNA не становится подходящим только потому, что ROCm выполняет на нём вычислительные ядра. Поэтому эта статья не рекомендует MI300A как документированно поддерживаемый узел актуального Cycles HIP. Другому движку или специализированному вычислительному рендеру нужны собственные явные подтверждения и тест. Приёмку LLM нельзя повторно использовать как доказательство поддержки материалов, трассировки лучей или корректного формирования изображения в выбранном графическом рабочем процессе.
Требования рендера отдельно описаны в руководстве Cycles GPU.
Описать границы всей платформы
Для установленной системы MI300A нужно сохранять идентификатор OEM, топологию CPU и GPU, политику размещения памяти, прошивки и охлаждение. Задержки сервиса и восстановление после отказа сравниваются при одновременной нагрузке CPU и GPU, а не только на изолированном ядре. Интерпретацию общей памяти следует оставлять в каждом экспортируемом результате, чтобы позднее её не превратили в утверждение о выделенной VRAM. Профиль описывает публичную архитектуру и способ оценки. Он не объявляет эксплуатацию MI300A в Retrivium, предоставление конкретного checkpoint или завершённое подключение этой платформы к торговой площадке.
По теме: RAM и VRAM и воспроизводимый тест инференса. Каталог GPUсодержит границы обзора, варианты моделей и неподтверждённые характеристики.
Дополнительные первичные источники: 1.