В этом материале
GPU оценивают в полном OCR-конвейере: ускорение распознавания не равно ускорению подготовки страниц и готового результата.
OCR на CPU и GPU сравнивают по всему пути документа: подготовка страниц, распознавание, восстановление структуры и сохранение результата. Ускоритель помогает только тем этапам, которые действительно используют поддерживаемый GPU-backend. Покупка карты не ускоряет любой OCR-процесс автоматически.
Для владельца свободного сервера полезно сначала найти этап, ограничивающий общую скорость. Иногда очередь ждёт рендеринга PDF или записи файлов, пока GPU не получает достаточно подготовленных страниц.
Разделите конвейер на этапы
Отметьте чтение исходного файла, преобразование страницы в изображение, подготовку изображения, распознавание и формирование выходного документа. Каждый этап измеряйте отдельно и вместе с остальными. Для многопоточной обработки сохраняйте также полное время пакета.
Документация PaddleOCR содержит выбор устройства и компонентов обработки. FAQ Tesseract отдельно рассматривает скорость CPU и число потоков. Эти проекты нельзя считать одной и той же программой, которая различается только названием устройства.
Сравнивайте сопоставимые режимы
| Вариант | Что фиксировать | Что нельзя заключить без проверки |
|---|---|---|
| Один движок на CPU и GPU | Одинаковые модели и подготовка | Что качество всегда совпадает |
| Tesseract и PaddleOCR | Версии, языки и набор страниц | Что разница вызвана только GPU |
| Одна и несколько очередей | Число процессов и память | Что скорость растёт линейно |
| Полный PDF и готовые изображения | Граница измерения | Что результаты одинаково описывают пользователя |
Проводите отдельное сравнение оборудования и отдельное сравнение движков. Смешанный тест может быть полезен для выбора решения, но его вывод должен честно относиться ко всему процессу.
Подготовьте размеченный набор
Включите обычные страницы, мелкий шрифт, таблицы, поворот и шум, если они встречаются в архиве. Для части страниц сохраните правильный текст. Ошибка в номере документа или сумме может быть важнее среднего числа распознанных символов.
Для условного пилота удобно выделить двадцать разнообразных страниц, затем расширить проверку после разбора ошибок. Это размер учебного примера, а не достаточный объём для доказательства качества любого архива. Долю сложных документов выбирают по реальному составу данных.
Измерьте ограничивающий этап
Если подготовка страницы занимает больше времени, чем её распознавание, сначала проверьте очередь подготовки и загрузку CPU. Увеличение GPU-пакета может повысить потребление памяти, не сократив ожидание входов. Аналогично медленный накопитель способен ограничить выдачу результата.
Сохраняйте страницы в минуту только вместе с размером изображения, моделями и требованиями к выходу. PDF с текстовым слоем и набор изображений имеют разный объём полезной работы, даже когда число страниц совпадает.
Выберите конфигурацию по документу
Решение принимают по времени до проверенного документа и ресурсу на полный пакет. Отдельно отмечают неуспешные страницы и повторную обработку: высокая скорость с большим количеством ручных исправлений может оказаться неподходящей.
Для подготовки оборудования полезны сведения о CPU и GPU для LLM и методика измерения инференса.