# CPU или GPU-хостинг: какой ресурс нужен вашей AI-задаче

Как разделить задачи CPU и GPU при выборе хостинга для AI: обработка данных, поиск, генерация и проверка ограничений перед арендой оборудования.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/cpu-vs-gpu-hosting/
Language: ru

При выборе AI-хостинга вопрос часто формулируют слишком широко: нужен сервер с процессором или с видеокартой? В действительности полезная система состоит из нескольких этапов. Некоторые требуют CPU, другие используют ускоритель, а часть времени уходит на чтение данных и сеть. Для владельца железа это возможность найти ему конкретную роль вместо сравнения всех машин одним числом.

## Разберите путь запроса

Возьмём условного помощника по документам. Сначала принимается обращение, проверяются права, выполняется поиск, затем найденные фрагменты передаются генеративной модели. Подготовка индекса происходит отдельным процессом. Перечислите эти операции до выбора хостинга.

В [классификации AWS](https://docs.aws.amazon.com/ec2/latest/instancetypes/ec2-instance-type-specifications.html) вычислительные, ориентированные на память, дисковые и ускоренные конфигурации выделены отдельно. Это разные сочетания ресурсов, а не уровни одного универсального рейтинга мощности.

Поставьте напротив каждого этапа наблюдаемое ограничение: процессорное время, память, диск, сеть или выполнение модели. Если измерений ещё нет, назовите ограничение гипотезой и проверьте её небольшим тестом.

## Не путайте vCPU с физическим ядром

Виртуальный процессор описывает выделенную вычислительную единицу облачной машины. Его соответствие ядру зависит от архитектуры и предложения. Например, [таблицы CPU options AWS](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/cpu-options-supported-instances-values.html) отдельно перечисляют vCPU, ядра и потоки на ядро.

Поэтому одинаковое число vCPU у разных машин не подтверждает одинаковую производительность. Проверьте поколение процессора, поддержку инструкций и условия разделения ресурсов. Для собственного сервера укажите физические CPU, ядра и включённые аппаратные потоки раздельно.

## Проверьте ускоряемую операцию

GPU нужен там, где выбранное ПО действительно использует его возможности. Наличие карты не ускоряет автоматически проверку доступа, чтение медленного диска или обработку любой базы данных.

С другой стороны, достаточная системная RAM не превращается в видеопамять карты. Если движок переносит часть данных на CPU, это отдельная схема с собственными передачами и задержками. Её пригодность определяется тестом, а не суммой гигабайтов двух типов памяти.

Для пилота полезно замерить каждый этап отдельно и затем полный пользовательский цикл. Так станет видно, ускоряет ли дорогой компонент итоговую задачу.

## Сравните два понятных сценария

Первая конфигурация может выполнять подготовку документов и поиск на CPU, обращаясь к отдельной модели. Вторая добавляет локальную GPU-генерацию. Держите одинаковыми документы, вопросы и критерии правильного ответа.

Запишите задержку каждого этапа, объём обработанных данных и затраты обслуживания. Если выигрыш только внутри модели, но весь запрос по-прежнему ждёт поиск, дальнейшее вложение в GPU требует отдельного обоснования.

Оценивайте также расписание. Подготовка архива допускает выделенное окно, а интерактивный ответ предъявляет другие требования к готовности. Это влияет на роль свободной рабочей станции и выделенного сервера.

## Практические выводы

Мы не заявляем универсальный сервис для любой предложенной машины.

Затем изучите [разницу RAM и VRAM](/ru/journal/ram-vs-vram/) и [методику бенчмарка](/ru/journal/inference-benchmark-method/).