ТЕХНОЛОГИИ

Granite 4.2: полные рассуждения, low-effort и non-thinking

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Low-effort Granite сочетает включённый thinking с low_effort, а обрезание истории является отдельной настройкой.

Granite 4.2 разделяет полное рассуждение, low-effort и поведение без thinking. Режимы управляются шаблоном модели, а не универсальным словарём effort, скопированным у другого семейства.

Прочитайте документированные настройки

Карточка 4.2-8B указывает enable_thinking=True для полного рассуждения, enable_thinking=False для отключения и сочетание enable_thinking=True с low_effort=True для короткого reasoning.

Техническая статья IBM объясняет использование, а официальный репозиторий содержит артефакты релиза. Карточка рекомендует температуру 1.0 и top_p 0.95 для документированных режимов. Сохраните рекомендацию при создании эталонного условия и отдельно отмечайте намеренные эксперименты с другими параметрами.

Уточните преобразования шаблона

При включённом thinking префикс генерации открывает think. При выключенном он добавляет пустой блок. Low-effort включает специальное указание краткого рассуждения в пользовательское сообщение.

Это разные построения промпта. Поле reasoning_effort не выполняет такое преобразование автоматически, если интеграция не сопоставляет его правильно. До объяснения кажущегося отказа режима изучите реальный путь передачи настройки в шаблон.

Подберите небольшую задачу режиму

Устройство задачиПолезная проверка приёмки
Решение по фиксированным меткамПравильная метка без необоснованного объяснения
Простое проверяемое вычислениеЗавершённое правильное итоговое значение
Несколько ограниченийВыполнение каждого условия
Исправление кодаПрименимый патч сохраняет защищённое поведение
Следующий вопросПрежние итоговые факты остаются доступными

Название режима не определяет приёмку. Длинное рассуждение с неправильным результатом отклоняется, а краткий верный ответ принимается, если доказательство не требовалось условиями задачи.

Отдельно учитывайте историю

Карточка описывает truncate_history_thinking=True как стандартное удаление рассуждений прежних ответов assistant. Значение false сохраняет такую историю. Это другой выбор, чем включение reasoning текущей генерации.

При потере факта в следующем ответе сначала установите его источник: окончательный ответ либо только удалённое рассуждение. Корректно сохраняйте итоговые сообщения и результаты инструментов. Проблему построения истории нельзя считать доказательством бесполезности полного thinking модели.

Прямое сопоставление отрисованных префиксов помогает объяснить неожиданное поведение ещё до выбора другой модели для задачи.

Подготовьте таблицу приёмки режимов

Храните точные ревизии checkpoint и шаблона, переданные настройки, допуск вывода и эталоны. Где полезно прямое сравнение, проверяйте full, low-effort и non-thinking одинаковым примером. Незавершённые выводы сохраняйте отдельно от полных неправильных результатов.

Выберите документированное условие выполнения требования. Это может обосновать разные режимы простых и сложных запросов без обещания общего снижения задержки. Итог не устанавливает одинаковых настроек всех движков, гарантированной глубины reasoning или допустимости считать промежуточное значение незаконченного thought окончательным ответом. Сохраняйте связь режима с фактическим результатом приложения, а не только с переданным названием параметра.

Связанные материалы

← Все материалы