# Whisper на CPU или GPU: как сравнить время и стоимость обработки

Как сравнить Whisper на CPU и GPU: одинаковая модель, real-time factor, запуск процесса, качество расшифровки и стоимость полностью обработанной записи.

Автор: Команда Retrivium
Обновлено: 2026-11-01
Канонический URL: https://retrivium.ai/ru/journal/whisper-cpu-vs-gpu/
Language: ru

Whisper на CPU и GPU сравнивают на одинаковых аудиофайлах, одной модели и сопоставимых настройках. Основные результаты — время до готовой расшифровки, качество текста и полный расход на обработку. Универсальный коэффициент ускорения не описывает все процессоры, карты и реализации.

Такой тест помогает владельцу сервера понять, нужна ли ускорителю отдельная очередь распознавания или небольшую нерегулярную задачу удобнее выполнять на имеющемся CPU.

## Зафиксируйте одинаковую работу

[Репозиторий OpenAI Whisper](https://github.com/openai/whisper) предупреждает о зависимости скорости от языка, речи и оборудования. Поэтому сравнение разных моделей или чистого английского файла с шумной русской записью не показывает преимущество одного устройства.

Сохраните контрольную сумму файла, модель, задачу, язык и параметры декодирования. Также укажите реализацию: результаты разных программных движков нельзя объяснять только сменой CPU на GPU. Обновление библиотеки отмечают как отдельное изменение эксперимента.

## Измерьте real-time factor

Real-time factor, или RTF, здесь определяется как время обработки, делённое на длительность аудио. Условный пример: десятиминутная запись обрабатывается две минуты, значит RTF равен 0,2. Это иллюстрация формулы, а не результат Whisper на определённой карте.

| Показатель | CPU | GPU | Как трактовать |
| --- | --- | --- | --- |
| Холодный запуск | Измерить | Измерить | Включает подготовку среды |
| Обработка готовой моделью | Измерить | Измерить | Показывает повторную работу |
| Полная длительность задания | Измерить | Измерить | Важна пользователю |
| RTF | Рассчитать | Рассчитать | Сопоставим для одного файла |
| Ошибки расшифровки | Проверить | Проверить | Контроль полезного качества |

Проводите несколько повторов и сохраняйте разброс. Один удачный запуск на простаивающей системе плохо описывает работу рядом с другими заданиями.

## Разделите подготовку и вычисление

Декодирование входного формата, чтение с диска, загрузка весов и запись результата занимают время помимо собственно модели. [Исходный код transcribe](https://github.com/openai/whisper/blob/main/whisper/transcribe.py) позволяет проследить настройки обработки и результат выбранной версии.

Для большого архива полезны и общая длительность пакета, и время каждой записи. Если короткие файлы постоянно запускают новый процесс, затраты подготовки могут влиять на вывод сильнее, чем скорость вычислений. Отдельно проверьте режим с уже загруженной моделью.

## Посчитайте стоимость завершённого файла

Для аренды используйте фактическую оплачиваемую длительность и применимый тариф. Для собственного оборудования отдельно покажите электричество, общие расходы хоста и принятый способ их распределения. Нулевая доплата за существующий CPU не означает нулевую полную стоимость эксплуатации.

Условно более быстрый GPU может проиграть редкой короткой задаче по оплачиваемому времени запуска. Для постоянной очереди соотношение бывает другим. Вывод должен относиться к измеренному расписанию, а не к классу устройств вообще.

## Примите ограниченное решение

В отчёте укажите допустимую задержку, состав аудионабора и причины выбора. Полезно сопоставить результат с [применением CPU для LLM](/ru/journal/cpu-llm-inference-use-cases/) и [экономикой единицы работы](/ru/journal/inference-unit-economics/).