В этом материале
Пустой thought Gemma может добавляться шаблоном, а не генерироваться как активное рассуждение.
Пустой thought-блок в ответе Gemma 4 не обязательно означает игнорирование отключённого thinking. Некоторые шаблоны Gemma 4 намеренно добавляют пустую границу канала, чтобы стабилизировать вывод без рассуждения.
Прочитайте поведение конкретной версии
Руководство thinking описывает enable_thinking и разные формы промпта для размеров моделей. Карточка 26B-A4B также объясняет каналы thought. Руководство форматирования определяет управляющие токены этого семейства.
Для 12B, 26B и 31B описан пустой префикс thought при выключенном thinking. E2B и E4B используют другую форму запроса отключённого режима. Различие связано с выбранной моделью и шаблоном, а не является общим правилом каждого checkpoint Gemma.
Отделите префикс запроса от генерации
Вывод декодера можно изучать вместе с входным префиксом либо только после границы входных токенов. Если пустой thought уже добавлен шаблоном, объединённая текстовая распечатка покажет его даже без сгенерированного моделью рассуждения.
Поэтому существенно правильное отделение входа. Наличие маркера thought в полной декодированной последовательности не доказывает активного reasoning. Сравнивайте токены промпта, новые токены и разобранный окончательный ответ как отдельные объекты.
Используйте небольшую диагностическую таблицу
| Наблюдение | Что требуется изучить |
|---|---|
| Пустой thought перед ответом | Был ли блок заранее добавлен шаблоном? |
| Непустое рассуждение | Включён ли thinking фактического запроса? |
| Пользователь видит маркер | Сохранил ли интерфейс управляющий текст? |
| Итоговое содержимое отсутствует | Не завершена генерация или повреждён разбор? |
| Другой размер ведёт себя иначе | Отличается ли документированная форма off? |
Для проверки формата достаточно простого фактического вопроса либо проверяемой арифметики. Такой пример нельзя представлять широкой оценкой качества рассуждений выбранной языковой модели.
Не удаляйте окончательный ответ
Парсер, удаляющий всё после открывающего thought, способен стереть итоговый ответ. Предположение об одном точном префиксе для всех размеров также может нарушить обработку допустимого вывода без thinking.
Используйте документированные границы каналов и поведение разбора выбранного processor. Во время диагностики сохраняйте исходный вывод: так отсутствие ответа в интерфейсе отличается от модели, которая вообще не завершила генерацию результата.
Определите границы доказательства
Храните ревизию checkpoint, шаблон, настройку enable_thinking, входной префикс и новые токены. Для каждого режима проверьте завершённость и правильное отделение окончательного ответа от служебных частей последовательности.
Корректный пустой блок можно принять ожидаемым форматированием вместо ошибки. Однако это не доказывает правильной передачи настройки провайдером в каждом запросе или отсутствия внутренних вычислений при невидимом reasoning. Практический вывод касается документированного контракта промпта и вывода, а также правильной обработки итога. Сохраняйте его отдельно от предположений о скорости, стоимости или глубине рассуждения модели в других задачах.