В этом материале
Начните с конфигурации и условий доступности. Возможность подключения и коммерческие условия стоит определять после теста конкретного сервера, а не по названию видеокарты.
Свободная видеокарта — ещё не готовый сервис инференса. Между оборудованием и запросом пользователя находятся модель, программное окружение, сеть и эксплуатация. Если вы хотите сдать GPU под языковые модели, сначала нужно понять, кто отвечает за каждую часть этой цепочки.
Планируемый канал продажи токенов — OpenRouter; подключение к нему требует отдельного одобрения платформы.
Что подготовить для первого разговора
Составьте короткий паспорт машины:
- точная модель и количество GPU;
- объём видеопамяти каждой карты;
- CPU, оперативная память и диски;
- страна, город и тип площадки;
- доступность: постоянно, ночью или по расписанию;
- известные ограничения сети, электропитания и обслуживания.
Не нужно заранее устанавливать неизвестное ПО или передавать административный доступ. Если характеристики неполные, достаточно модели карты и описания ситуации. Для NVIDIA сведения о GPU можно получить через nvidia-smi; поддержка отдельных показателей зависит от устройства.
Как проходит разумная техническая оценка
Сначала стороны выбирают модель и тестовый сценарий. Затем проверяют, помещается ли нагрузка в память, как ведёт себя сервер при нескольких запросах и насколько стабильны питание и сеть. Полезно отдельно измерить время запуска после перезагрузки: машина, которая быстро отвечает после прогрева, может долго возвращаться в работу после сбоя.
Результатом должен стать понятный вывод: подходящая нагрузка, ограничения, необходимые изменения и основания для отказа. Не каждый исправный GPU экономически целесообразно подключать к коммерческому инференсу.
Что согласовать до запуска
Определите, кто оплачивает электричество, обеспечивает охлаждение и реагирует на неисправности. Уточните, сохраняете ли вы собственные задачи на сервере, как предупреждать о перерывах и сколько времени занимает отключение от пула.
Финансовая модель тоже требует конкретики. Фиксированная аренда, оплата доступности и доля выручки создают разные обязательства. Не считайте предполагаемую загрузку гарантированной: даже доступный сервер может не получать оплачиваемые запросы.
Практические выводы
После первого разговора можно решить, нужен ли пилот. Предварительное описание не обязывает передавать сервер или принимать коммерческие условия.
Чтобы подготовиться к обсуждению, прочитайте требования к GPU и план пилота. Если оборудование грантовое, начните с отдельного списка проверок.