В этом материале
Архитектурная метка H и поколение Granite описывают разные стороны идентичности модели.
Версия Granite и архитектурная метка H обозначают разные стороны идентичности выбранной модели. Granite 4.0 H-Small и Granite 4.2-8B нельзя представлять изолированным экспериментом гибридных вычислений против плотных.
Определите точные архитектуры
Карточка 4.0 H-Small описывает модель 32B с компонентами GQA, Mamba2 и MoE с общими экспертами. В архитектурной таблице указаны 4 слоя attention и 36 слоёв Mamba2.
Карточка 4.2-8B описывает плотный decoder-only transformer. Документация гибридной реализации выделяет отдельный класс модели, а техническая статья 4.2 объясняет новое плотное семейство рассуждения.
Разделите направления сравнения
Кандидаты отличаются поколением, масштабом, архитектурой и дообучением. Различие качества нельзя объяснить только наличием либо отсутствием Mamba2 в устройстве сети.
| Направление | Что должно быть явно указано |
|---|---|
| Версия | Поколение опубликованного семейства |
| Архитектура | Гибридная MoE либо плотный transformer |
| Масштаб | Точный выбранный размер checkpoint |
| Дообучение | Поведение инструкций и рассуждения |
| Среда | Реализация данной архитектуры |
Метка H не является уровнем квантования. Аналогично более новая версия не означает совпадения архитектуры с каждым ранним checkpoint Granite. Эти свойства нужно устанавливать по документам выбранного артефакта.
Возьмите задачу фактической пригодности
Подготовьте вымышленную инструкцию краткого технического резюме с одним исключением и фиксированным термином. Добавьте отдельное небольшое исправление кода с независимо проверяемым граничным условием.
Сопоставляйте принятые окончательные результаты вместо предполагаемого архитектурного рейтинга. Резюме проверяет сохранение инструкции, кодовый пример — исполняемое поведение. Даже на одной машине они способны привести к разным решениям выбора модели для реальной работы приложения.
Отделите загрузку от поведения
Среде, распознающей плотный класс Granite, может требоваться отдельная поддержка гибридной реализации. Ошибка загрузки непосредственно не характеризует точность возможных ответов такого checkpoint.
Когда оба кандидата работают документированным путём, сохраните правильные шаблоны и условия генерации. Обрезание либо ошибочный формат входа нужно устранить до интерпретации различий задач. Не переносите обычную проблему интеграции на всё архитектурное семейство языковых моделей.
Оформите решение об идентичности модели
Храните ревизии репозиториев, класс архитектуры, формат артефакта и результаты задач вместе. Явно укажите одновременное изменение нескольких свойств. Контролируемая абляция архитектуры потребовала бы другого устройства эксперимента.
Полезный вывод касается пригодности точной опубликованной модели для проверенной нагрузки при записанных условиях. Он не устанавливает общего превосходства гибридного либо плотного подхода и не предсказывает постоянного отношения скоростей. Правильное имя модели начинает сравнение, понятное и воспроизводимое другим инженером. Сохраняйте раздельные сведения о поведении, загрузке и исследовательских ограничениях при дальнейших обновлениях.