# H100 PCIe и SXM: почему нельзя сравнивать только имя GPU

H100 PCIe и SXM для LLM: почему нужно уточнять SKU, платформу, соединения и фактическую память, а не сравнивать только общую надпись H100.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/h100-pcie-vs-sxm-llm/
Language: ru

Сравнение H100 PCIe и H100 SXM начинается с точного SKU и серверной платформы. SXM-модуль не является обычной платой для произвольного PCIe-слота. Кроме того, название H100 NVL нельзя автоматически подставлять вместо любого H100 в исполнении PCIe: это отдельная конфигурация.

## Сохраните точную строку спецификации

[Текущая страница NVIDIA H100](https://www.nvidia.com/en-us/data-center/h100/) отдельно показывает SXM и NVL. Поэтому цифры памяти или соединений из таблицы нужно связывать с её конкретным столбцом, а не со всем семейством.

| Вопрос | PCIe-конфигурация | SXM-конфигурация |
| --- | --- | --- |
| Что установить | Точную плату и SKU | Точный модуль и платформу |
| Сервер | Совместимый вариант производителя | Совместимую систему для SXM |
| Соединения GPU | Проверить реальный узел | Проверить реальную топологию |
| Данные NVL | Не переносить на любой PCIe | Не подменять ими SXM |

Такое сравнение полезнее универсального рейтинга по общему имени ускорителя.

## Проверьте архитектуру размещения

Одна большая модель на нескольких устройствах и независимые реплики используют связи по-разному. Поэтому сначала выберите задачу, потом сопоставляйте платформы.

[NVIDIA NCCL troubleshooting](https://docs.nvidia.com/deeplearning/nccl/user-guide/docs/troubleshooting.html) рассматривает топологию и обмен как отдельные направления диагностики. Теоретические характеристики соединения не являются замером токенов выбранной модели.

Запишите число GPU, CPU, RAM и сеть. Короткое объявление «сервер H100» не описывает достаточно данных для воспроизводимого решения.

## Сопоставьте один рабочий профиль

Возьмите точную ревизию модели, формат чисел и одинаковые запросы. Сохраните контекст, ограничение ответа и число одновременных сессий.

Если один сервер использует другую реализацию, укажите это как эксплуатационное сравнение систем. Нельзя приписывать всю разницу только форм-фактору ускорителя.

В результатах нужны ошибки, качество и распределение задержек. Максимальная выдача группы запросов не объясняет ожидание отдельного клиента.

## Учтите площадку и обслуживание

Питание, охлаждение и физическое вмешательство относятся к конкретной серверной конфигурации. Проверяйте их с ответственным площадки, а не по предположению о любой карте данного поколения.

Сохраните процедуру перезапуска и возвращения модели к готовности. Доступный хост ещё не означает, что артефакт загружен и endpoint способен принимать поток.

Если ресурс предлагается по расписанию или как резерв, укажите это отдельно. Статус дорогого устройства не меняет реальную доступность и время реакции владельца.

Для сравнения платформ запросите сведения о сервере целиком: поддерживаемое размещение ускорителя, соединения, питание и охлаждение. SXM нельзя рассматривать как обычную карту для произвольного настольного слота. Если оборудование уже установлено, сохраните фактическую топологию и доступные устройства из диагностики. Для финансового обсуждения отдельно опишите дооснащение площадки: покупка ускорителя без подходящего сервера не подтверждает возможность запустить выбранную модель и предоставить измеримый ресурс в согласованный срок.

## Параметры конфигурации

Владелец может начать с точного состава и подтверждённого режима, не обещая рекордные показатели. Для оператора важна измеряемая роль узла в будущей схеме.

Дальше полезны [PCIe и путь данных](/ru/journal/gpu-pcie-bandwidth/), [несколько GPU](/ru/journal/multi-gpu/) и [план пилота](/ru/journal/pilot-checklist/). Мы не гарантируем нагрузку или доход по одному имени H100 и оцениваем условия совместно с конкретной площадкой.