ЭКОНОМИКА

Две GPU в одном сервере: как распределить общие расходы на хост

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Общий расход хоста распределяют один раз по заранее выбранному правилу, а прямые расходы каждой GPU учитывают отдельно.

Общие расходы сервера с двумя GPU можно распределять поровну, по времени использования или по измеренному потреблению, если правило соответствует цели расчёта и применяется последовательно. Прямой расход одной карты сначала относят к ней; остаток общего счёта делят отдельно, без повторного начисления.

Такой расчёт нужен, когда карты принадлежат разным участникам или используются разными проектами. Он помогает обсуждать бюджет эксплуатации, но не определяет условия расчётов между сторонами автоматически.

Определите общий и прямой расход

Память CPU, системный SSD, сетевой канал и базовая работа хоста обслуживают обе карты. Некоторые расходы можно измерить по устройству, другие доступны только на уровне всего сервера или площадки. Помечайте источник каждого значения.

FinOps Allocation описывает распределение затрат между объектами учёта. Для двух GPU важно сначала выбрать сами объекты: физические карты, проекты или отдельные задания. Разные уровни нельзя смешивать в одной строке без правила перехода.

Сравните правила распределения

ПравилоКогда полезноОграничениеЧто сохранить
ПоровнуОдинаковые условия доступаНе отражает разную нагрузкуСогласованный период
По занятым часамЕсть журнал заданийЧас не равен одинаковой энергииОпределение занятого часа
По измеренной добавке энергииЕсть подходящие измеренияНе распределяет всё базовое потреблениеМетод измерения
По закреплённой мощностиРезервируются разные доли хостаЗависит от принятой границыОснование выделенной доли

Выбор зависит от вопроса. Для объяснения расходов пилота может подойти простое правило; для оценки эффективности конкретной нагрузки потребуются более подробные данные.

Проведите условную сверку

Пусть общий расход хоста за период составляет 120 расчётных единиц. Из них 40 прямо отнесены к первой карте, 20 — ко второй, а 60 остаются общими. При равном распределении общих расходов итог составит 70 и 50 единиц. Сумма снова должна дать 120.

Если делить общую часть по занятым часам в пропорции два к одному, первая карта получит ещё 40, вторая — 20 единиц. Итоги будут 80 и 40. Это другой ответ из-за другого правила, а не ошибка арифметики. Все числа здесь иллюстрируют метод и не являются тарифом.

Проверьте границу измерения электричества

Показатель мощности GPU не равен потреблению всего сервера из розетки. Документация NVIDIA SMI описывает доступные показатели устройств; поддержка и смысл отдельных полей зависят от оборудования.

Если счёт площадки относится ко всему узлу, а измерение — только к картам, разницу нельзя автоматически назвать потерями или ошибкой. В ней могут находиться CPU, память, накопители и другие составляющие. Сначала сопоставьте периоды, единицы и границы источников.

Закрепите правило до отчёта

В карточке расчёта укажите период, выбранный метод, исключения и порядок пересмотра. Если правила изменяются, сохраните предыдущую версию и объясните причину. Участникам проще оценивать понятное приближение, чем детальную таблицу с постоянно меняющейся логикой.

Сопоставьте результат с экономикой инференса и распределением GPU-бюджета.

← Все материалы