ТЕХНОЛОГИИ

Ollama на Windows с GPU: как проверить установку и нагрузку

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

На Windows Ollama работает нативно; проверяйте фактическое устройство и запущенный фоновый сервер.

Ollama на Windows имеет нативный маршрут установки с поддержкой совместимых GPU. Для проверки нужны точная карта, подходящий драйвер, работающий фоновый процесс и успешное размещение модели. WSL не является обязательным условием именно для этого маршрута. Начинайте с небольшой модели и наблюдаемого результата, затем проверяйте целевую нагрузку.

Выберите один способ запуска

Установка Windows, сервер внутри WSL и контейнер — разные среды. Если одновременно работает несколько вариантов, клиент способен обращаться не к тому процессу. Сначала определите, какой сервер слушает используемый локальный порт и где расположены его файлы.

Официальная инструкция Windows описывает нативную установку и локальный API. Сохраните версию приложения, ОС и драйвера. Не переносите команды настройки Linux-службы в Windows-интерфейс: переменные и жизненный цикл процесса задаются по-разному, даже если сама команда клиента выглядит одинаково.

Сверьте поддержку конкретной карты

Проверьте модель GPU в системной информации, затем сопоставьте её с официальным списком аппаратной поддержки. Для ноутбука отдельно укажите мобильный ускоритель и его память. Одинаковое число в названии desktop и Laptop не делает их одинаковыми устройствами.

На системе с интегрированной и дискретной графикой важно установить, какой backend и устройство выбраны. Активность рабочего стола на одном GPU не подтверждает выполнение LLM именно на нём. Для NVIDIA полезна соответствующая системная диагностика, а для AMD — инструкция выбранного поддерживаемого пути.

Проверьте модель и размещение

Запустите небольшую уже доступную модель и после загрузки выполните ollama ps. Запишите идентификатор, сведения о CPU/GPU и выбранный контекст. Затем повторите опыт с целевой моделью, сохранив настройки. Разница покажет, проходит ли базовый аппаратный маршрут и где начинается ограничение ёмкости.

Во время измерения закройте собственные тяжёлые приложения, если это согласовано с использованием машины. Игры, рендер и браузерные задачи способны менять свободную VRAM. Для рабочей станции полезно проверить обычное состояние и отдельное выделенное окно, не смешивая результаты в один показатель.

Найдите журнал фонового приложения

После изменения переменных окружения работающий фоновый процесс может сохранить старые значения. Выполните предусмотренный инструкцией выход из приложения и повторный запуск. Затем проверьте новый журнал: настройка должна отразиться в фактическом процессе, а не только в окне системных параметров.

Расположение журналов описано в официальном troubleshooting. Ищите обнаружение устройства и размещение модели. Если приложение работает через CPU, разберите причину по отдельной инструкции, не переустанавливая одновременно драйвер, модель и все зависимости.

Запишите также источник модели и её точный тег. Автоматическое обновление программы и изменение артефакта рассматривайте отдельно: иначе повторный опыт одновременно проверяет уже другую программную и модельную конфигурацию.

Проверьте повторный запуск компьютера

Практический сценарий приёмки: загрузка модели, короткий запрос, перезапуск приложения, повторный запрос и проверка сохранённого кеша. Для машины, которую планируется предоставлять по расписанию, добавьте проверку после сна или перезагрузки. Запишите, какие действия требуют присутствия владельца.

Условия эксплуатации важны не меньше названия карты: режим сна и параллельная работа пользователя определяют доступность ресурса. Это рассмотрено в материале о рабочих станциях.

← Все материалы