В этом материале
Compute-optimized выбирают для нагрузки, ограниченной вычислениями CPU. Название класса не гарантирует GPU и не отменяет проверки памяти, дисков и реальной производительности.
У приложения может оставаться свободная оперативная память, но работа всё равно выполняется медленно. Если ограничение связано с процессорными вычислениями, стоит изучить compute-optimized конфигурации. Для владельца сервера это способ представить его полезность через задачу, а не через общий ярлык «мощное железо».
Чем отличается вычислительный класс
AWS описывает compute-optimized как конфигурации для интенсивных вычислительных нагрузок. В каталоге семейств Google назначение машины также связывается с сочетанием вычислений, памяти и других ресурсов.
Нельзя автоматически считать compute-optimized синонимом GPU-хостинга. В облачной классификации ускоренные конфигурации могут выделяться отдельно. Сначала проверяйте наличие и модель ускорителя, если приложение действительно должно использовать его.
Собственный CPU-сервер оценивайте тем же способом: процессор, доступные потоки, память и условия работы образуют конфигурацию, а не одно независимое число.
Найдите этап с интенсивными вычислениями
В AI-системе это может быть разбор документов, преобразование форматов, подготовка данных или другая поддерживаемая CPU-операция. Не предполагайте заранее, что любой медленный этап требует ускорителя.
Измерьте процессорное время, очередь и скорость чтения. Если CPU ждёт данные с диска, высокий тариф вычислительного класса может не изменить результат. Если же рабочий набор не помещается в RAM, сначала следует проверить память.
Для пилота выделите одну повторяемую задачу и сохраните исходные файлы. Это позволит сравнивать машины без изменения содержания работы.
Проверьте потоки и длительность
Число vCPU не обязательно равно числу физических ядер. Уточните архитектуру и способ предоставления ресурса. Для виртуальной машины важны также условия разделения CPU с соседними нагрузками.
Начните с небольшого количества рабочих потоков, затем увеличивайте его. Отмечайте, где дополнительный параллелизм перестаёт ускорять полезную обработку или начинает повышать расход памяти.
Повторите выбранный режим длительно. Короткий удачный запуск может не описывать поведение при постоянной загрузке, фоновых работах и обычном температурном режиме площадки.
Сравните варианты до закупки
Предположим, требуется регулярно готовить документы для поиска. Сравните текущую машину, более вычислительный вариант и конфигурацию с большей RAM. Используйте один набор данных и одинаковое определение завершённой работы.
В таблице покажите время задачи, пиковую память, ошибки и полную стоимость проверки. Не объявляйте победителем вариант с большим числом ядер до измерения результата.
Добавьте сценарий повторной обработки только изменённых документов. Иногда сокращение лишней работы влияет на потребность в железе сильнее, чем переход к следующему классу процессора.
Для результата полезно сохранять число обработанных записей и долю отклонений. Если более быстрый запуск пропустил часть входов или изменил правила разбора, он не является честным ускорением той же работы и требует отдельной оценки качества.
Практические выводы
Если у вас есть свободная машина, полезно описать, какую нагрузку она уже выдерживала.
Для подготовки прочитайте CPU и GPU-хостинг и память для подготовки данных.