В этом материале
Серверным конфигурациям A800 80 ГБ нужны собственная инвентаризация и проверка поддержки. Их нельзя путать с платой A800 40 ГБ Active для рабочей станции.
Отделить серверный продукт от активной платы
Архивное руководство Lenovo описывает серверные конфигурации A800 с 80 ГБ локальной памяти в исполнениях PCIe и SXM4. Это другие продукты, чем A800 40 ГБ Active. В руководстве OEM продукт отмечен как снятый с предложения; такая запись важна для существующей установки, но не подтверждает наличие оборудования у других поставщиков сейчас. В таблице намеренно используется общее обозначение семейства HBM. Точное поколение памяти следует сверять по установленному артикулу и соответствующей ему спецификации, а не восстанавливать по похожему названию ускорителя.
| Вариант | Локальная память, ГБ | Тип памяти | Заявленная мощность платы, Вт |
|---|---|---|---|
| A800 PCIe 80 GB | 80 | HBM | 300 |
| A800 SXM4 80 GB | 80 | HBM | Не подтверждена |
Конфигурацию подтверждает спецификация производителя или OEM: первоисточник.
Проверить стек инференса для Ampere
Архитектура Ampere является полезной отправной точкой для инференса CUDA, но не полной гарантией пригодности сервиса. Нужно записать драйвер, CUDA runtime, сборку движка, выбранное квантование и ревизию модели. Начальная проверка корректности должна задействовать предполагаемый путь attention; затем можно повышать длину запросов и конкурентность. Для другого числового формата движок способен выбирать иные ядра. Если включён MIG, при оценке доступной памяти runtime следует использовать ёмкость и профиль видимого раздела. Полные 80 ГБ в такой конфигурации одному процессу не обещаны.
Граница поддержки описана в документации стека инференса.
Не предполагать одинаковые межсоединения
Совпадение объёма локальной памяти не делает A800 взаимозаменяемым с любым исполнением A100. Документированные межсоединения и платформа хоста должны оставаться частью сравнения. Модели на нескольких устройствах требуется явная стратегия разделения; установка моста либо нескольких модулей автоматически не создаёт единое выделение памяти между ними. Нужно изучить peer-соединения и коллективные операции в конкретном сервере. Сравнивать следует полную задержку запроса при целевой нагрузке, поскольку хороший результат одной GPU способен измениться, когда обмены занимают значительную часть выполнения распределённой модели.
Рассматривать серверный рендер как отдельную проверку
Вычислительный ускоритель можно рассматривать для рендера с CUDA, однако позиционирование продукта не доказывает поддержку графических функций. Сначала следует проверить актуальную матрицу движка, драйвера и операционной системы, затем отрендерить типичную сцену без зависимости от настольной сессии. Нужно проверить текстуры, материалы, результат и размещение памяти. Наличие специализированных возможностей RTX нельзя выводить из названия A800. Успешная оценка рендера относится к проверенной конфигурации и классу сцен. Она не распространяется автоматически на каждый коммерческий движок, плагин или будущую версию программного обеспечения.
Требования рендера отдельно описаны в руководстве Cycles GPU.
Оценивать установленную систему, а не обещание каталога
Для существующего сервера A800 нужно сохранять точную модель OEM, артикулы ускорителей, схему охлаждения и версии прошивок. Настройки мощности устройств следует отличать от потребления всей машины из сети. Необходимы длительная нагрузка и контролируемый перезапуск сервиса с сохранением журналов ошибок выделения памяти и температурного поведения. Архивное руководство является источником спецификаций, а не заявлением о наличии у поставщика. Информационный каталог Retrivium не подразумевает владение этим оборудованием или завершённое подключение описанной конфигурации к торговой площадке для продажи токенов.
По теме: RAM и VRAM и воспроизводимый тест инференса. Каталог GPUсодержит границы обзора, варианты моделей и неподтверждённые характеристики.