В этом материале
Считайте потребление всей системы и проверяйте температурный режим в длительном тесте. Показатель одной видеокарты не описывает расходы и готовность площадки.
Для инференса важен не только GPU, но и среда, в которой он работает. Серверу нужны питание, отвод тепла и обслуживание. Эти условия легко недооценить, если раньше машина включалась только для отдельных задач.
До подключения полезно отдельно проверить техническую готовность площадки и стоимость её эксплуатации. Даже хороший бенчмарк не отвечает на оба вопроса.
Измеряйте всю машину
Потребление GPU — часть расхода. CPU, память, диски, вентиляторы и потери системы питания тоже используют энергию. Если доступно корректное измерение на входе сервера, оно ближе к расходу самой машины, чем сумма выборочных программных показателей.
Измерьте несколько режимов: ожидание, обычную нагрузку и интенсивный тест. Не умножайте максимальную паспортную мощность блока питания на часы работы как будто это фактический расход. При этом не используйте короткий лёгкий тест для оценки тяжёлой постоянной нагрузки.
Добавьте расходы площадки
Отдельно рассмотрите охлаждение помещения, размещение и обслуживание. Для собственного офиса и арендуемой стойки структура затрат различается. Проверьте, что уже включено в тариф, чтобы не посчитать одну услугу дважды.
Для расчёта энергии используйте среднюю мощность, время и цену кВт·ч. Укажите валюту и период тарифа. Если сервер работает по расписанию, учтите, остаётся ли он включённым в свободные часы.
Проверьте устойчивость температуры
Проводите тест в обычных условиях площадки, а не только при открытом корпусе в прохладном помещении. Следите за показателями в пределах, предусмотренных производителем. Не меняйте защитные механизмы и электрическую инфраструктуру ради подключения.
Если потребуются изменения электропитания или вентиляции, их должен оценить специалист площадки. Не следует превращать технический пилот в эксперимент с неподходящей проводкой или заблокированным охлаждением.
Назначьте эксплуатационные обязанности
Согласуйте, кто замечает перегрев, кто останавливает нагрузку и кто может физически осмотреть машину. Уточните обслуживание фильтров, доступность запасных компонентов и плановые перерывы. Важно понимать, кто несёт дополнительные затраты до того, как они появятся.
По итогам оценки составьте короткую карту расходов и ограничений. Она понадобится для обсуждения экономики и выбора модели расчётов.