В этом материале
Для старта API сервера Jan нужна загружаемая локальная модель; последующая удалённая маршрутизация не отменяет начальное требование.
API сервер Jan требует локальную модель, которую может загрузить до запуска, даже если для последующих запросов настроен удалённый провайдер. Запись удалённой модели не заменяет документированное начальное требование сервера Desktop.
Конкретная граница приложения
Отказ возникает до маршрутизации обычных запросов приложений. Выбор модели по умолчанию предлагает поддерживаемые локальные модели llama.cpp и MLX на Apple Silicon. Для macOS текущая документация требует Apple Silicon для этих локальных движков; встроенный llama.cpp не загружает модели на Intel Mac начиная с указанной границы версии. Поэтому удалённый провайдер не исправляет отсутствие загружаемой стартовой модели. Разделяйте поддержку платформы, загрузку, запуск сервера и последующую маршрутизацию. Статья относится к API серверу Desktop: Jan Agent распространяется отдельно как предварительный продукт и не доказывает исчезновение требований Desktop. Наличие его окна или собственной конфигурации не является проверкой готовности стартовой модели настольного приложения (Jan Desktop documentation) (Jan Agent documentation).
Практический маршрут
Загрузите или импортируйте поддерживаемую локальную модель Jan. Откройте Settings > Local API Server и выберите её в Default Model Local API Server. Нажмите Start Server. Jan использует уже загруженную модель либо загружает выбранную по умолчанию до старта. Дождитесь состояния running в Server Status и изучите Server Logs при отказе загрузки. Документированный адрес — http://127.0.0.1:1337/v1; для реального клиента используйте собственные текущие host, port и prefix (Jan Local API Server).
Разобранный пример
Пользователь добавляет удалённого провайдера и запускает сервер без доступной локальной модели. Исправление не начинается с замены удалённого ключа. Сначала добавьте поддерживаемую стартовую модель, выберите её по умолчанию и подтвердите работающий статус. Только затем проверьте запрос с явным выбором удалённой модели. Этот последующий запрос не является автономным и не ограничивается компьютером, несмотря на локальное расположение API сервера.
| Проверка | Запись |
|---|---|
| До запуска | Загружаемая локальная модель существует и выбрана сервером по умолчанию. |
| Свидетельство старта | Server Status показывает running, ошибки загрузки изучены через Server Logs. |
| Свидетельство маршрута | Последующий запрос удалённому провайдеру записан как удалённое выполнение генерации. |
Как правильно прочитать сбой
При отказе загрузки выбранной модели проверьте поддержку платформы и сообщение загрузки до изменения ключей API. Если сервер запущен, а клиент не работает, отдельно изучите адрес клиента и запрошенную модель. Execute Tools on Server по умолчанию выключен и управляет выполнением инструментов: этот параметр не отменяет требование стартовой модели и относится к другому этапу обработки.
Что завершает проверку
Главное различие — запуск и последующая маршрутизация. Работающий сервер может направлять выбранные запросы удалённо, но возможность старта по-прежнему зависит от документированного требования локальной модели, способной загрузиться на используемом компьютере.
Связанные материалы: llama.cpp server: локальный API из GGUF-модели, VRAM для LLM: почему размер модели — не весь расчёт.