# Qwen публикует отчёт об архитектуре FlashNext: n-gram таблицы вне ускорителя

Отчёт Qwen3.8-Next размещает n-gram таблицы вне ускорителя. Объясняем, почему активные параметры не описывают полный путь памяти при инференсе.

Автор: Редакция Retrivium
Language: ru
Разбор опубликован: 2026-11-03
Дата события: 2026-08-31
Первоисточник новости: https://arxiv.org/abs/2608.30320
Канонический URL: https://retrivium.ai/ru/retrospectives/retro-qwen38next-paper-ngram-residency/

Заголовки о разреженных моделях провоцируют короткий путь: прочитать число активных параметров и решить, что остальная система тоже мала. Архитектурный отчёт Qwen3.8-Next нарушает эту привычку, описывая n-gram таблицы вне ускорителя. Его историческое значение состоит в том, что путь через память хоста становится частью самого устройства модели.

## Датированная предыстория

- 2024-12-19: [Qwen2.5 Technical Report](https://arxiv.org/abs/2412.15115).

- 2025-05-14: [Qwen3 Technical Report](https://arxiv.org/abs/2505.09388).

- 2026-08-31: [On the Design of Qwen3.8-Next Architecture](https://arxiv.org/abs/2608.30320).

## Преемственность разных ресурсных вопросов

Предыдущие отчёты Qwen фиксируют развитие языковых возможностей и семейств рассуждения. Более поздняя архитектурная работа добавляет явный вопрос о расположении разных видов состояния. По нашей интерпретации, оптимизация всё чаще действует на уровне иерархии памяти, а не только уменьшает нейросетевые вычисления. Это не означает отсутствия системных соображений в ранних работах. Читателю необходимо следовать предпосылкам конкретной архитектуры вместо переноса простой формулы параметров в VRAM из другого семейства. Без проверки размещения данных такая формула может описывать только часть новой системы и скрывать обязательные ресурсы за пределами ускорителя.

## Резидентность и активация отвечают разному

Число активных параметров относится к вычислению, выбранному для токена. Резидентность описывает данные, которые должны где-либо находиться для исполнения. Таблица в памяти хоста не занимает память ускорителя, но всё равно требует выделения места, загрузки, поиска и передачи. Отчёт явно рассматривает таблицы на стороне хоста и предварительную выборку. Практический вывод — более широкий перечень ресурсов: наряду с GPU нужно учитывать системную RAM и путь между ней и ускорителем. Из этого наблюдения не следуют измеренное узкое место или готовый размер машины. Для таких выводов необходимы определённая реализация, нагрузка и конфигурация запуска.

## Условное сравнение холодного и прогретого режима

Предлагаемая проверка разделяет первичную загрузку, первые запросы после старта и установившуюся повторяемую нагрузку. Распределение входов, параллелизм, версия программ и настройки размещения памяти сохраняются. Расход системной RAM наблюдается вместе с выделением памяти ускорителя и передачей данных. Успех после прогрева таблиц не описывает запуск, а небольшой объём GPU не равен полному требованию машины. Это предлагаемые условия эксперимента, а не опубликованные измерения Qwen. Они мешают принять архитектурный перенос состояния за исчезновение эксплуатационной стоимости. Важна также фиксация того, какие данные действительно были загружены и оставались доступны во время проверки.

## Почему хост участвует в выборе модели

Для провайдера с неодинаковыми машинами содержательно сравнивать полные работоспособные конфигурации обслуживания. GPU с достаточной локальной памятью может соседствовать с неподходящим хостом для определённой архитектуры внешних таблиц. И наоборот, большая системная память может быть важна по причинам, не связанным с обычным обсуждением KV-кэша. Исторический урок не состоит в одинаковом устройстве всех разреженных моделей. Выбор должен сохранять реальную карту состояния конкретной архитектуры. Активная нейросетевая работа, хранимые таблицы, выделения среды исполнения и состояние запросов остаются отдельными строками, пока измерения не установят их взаимодействие в выбранной конфигурации под заданной прикладной нагрузкой.

Техническая база: [vector database memory hosting](/ru/journal/vector-database-memory-hosting/); [vram and models](/ru/journal/vram-and-models/).