CPU, GPU И RAM

Совместимость GPU для инференса LLM и рендеринга Cycles

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

CUDA, ROCm и backend рендера отвечают на разные вопросы совместимости. До назначения узла нужно проверить точную GPU, версию ПО и рабочую нагрузку.

Разделить три уровня совместимости

GPU может выполнять общие вычислительные ядра, оставаясь неподходящей для определённого движка инференса или рендера. Сначала устанавливается идентичность оборудования, затем проверяется поддерживаемый способ установки движка, после чего тестируется предполагаемая нагрузка. Эти уровни следует записывать отдельно. Название архитектуры помогает определить поколение устройства, но не подтверждает реализацию attention модели, ядро квантования или плагин рендера. Успешная команда перечисления устройств доказывает обнаружение, а не длительную корректность, размещение в памяти или эксплуатационную стабильность. Поэтому у одной платы могут получиться разные заключения для разных программных путей.

NVIDIA: минимум vLLM не подтверждает каждое ядро

В актуальных требованиях установки vLLM для NVIDIA аппаратным минимумом служит compute capability 7.5 или выше. Поэтому Volta, Pascal и Maxwell нужен другой намеренно совместимый путь инференса; их нельзя объявлять целями актуального vLLM только по VRAM. Blackwell также требует подходящих сборки, runtime и драйвера, несмотря на более новое поколение относительно минимума. Нужно проверить выбранные модель и числовой формат. Способ сборки llama.cpp оценивается независимо, но инструкция сборки не является универсальным подтверждением каждой карты или каждого доступного режима вычислений.

AMD: важны точные SKU и операционная система ROCm

Матрица совместимости ROCm относится к конкретной версии и различает устройства и операционные среды. Таблица аппаратного справочника не равна этой матрице поддержки. Radeon, Instinct и интегрированные APU должны сохранять собственные обозначения. Возможность компилировать код HIP не доказывает наличие нужных ядер attention или квантования во фреймворке инференса. Для неуказанного устаревшего устройства эксперимент Vulkan описывается только как условный: нужны функции драйвера, обнаружение устройства и успешные тесты модели. Нельзя незаметно переименовывать такой эксперимент в официально поддерживаемый инференс ROCm.

У Cycles CUDA, OptiX и HIP разные границы

Проверенное руководство Blender 5.2 LTS по GPU устанавливает аппаратную границу CUDA и OptiX на NVIDIA compute capability 5.0 или новее; у OptiX также есть требование к драйверу. Для HIP основой является AMD RDNA 1 или новее. Поэтому старая NVIDIA может соответствовать аппаратному минимуму рендера, но не актуальному vLLM, а вычислительное устройство Instinct CDNA не становится кандидатом Cycles HIP автоматически. Это границы допуска, а не обещания времени кадра. Другим движкам рендера нужны собственные актуальные подтверждения поддержки оборудования и функций.

Сохранить приёмку для конкретной нагрузки

В запись входят идентификатор устройства, драйвер, runtime, версия движка, backend, ревизия модели либо сцены и числовые настройки. Сначала корректность сравнивается с эталоном, затем измеряются пики памяти и длительное поведение. Результаты инференса и рендера сохраняются раздельно даже на одной машине. Новый драйвер, фреймворк или функция сцены могут потребовать очередной целевой проверки. Неизвестное сочетание остаётся неизвестным, а не получает результат соседней карты. Каталог использует эти границы для объяснения кандидатов; он не утверждает, что всё перечисленное оборудование развёрнуто или протестировано Retrivium.

Связанные статьи: Бенчмарк GPU для инференса, которому можно доверять, RAM и VRAM: какую память считать при выборе AI-сервера. Каталог GPU.

← Все материалы