# Mistral Small 4 NVFP4 и исходный checkpoint: проверка качества

Проверка Mistral Small 4 NVFP4 относительно исходного checkpoint по происхождению, одинаковому reasoning и ограниченным задачам текста и кода.

Автор: Команда Retrivium
Обновлено: 2026-11-03
Канонический URL: https://retrivium.ai/ru/journal/mistral-small4-nvfp4-checkpoint-choice/
Language: ru

У Mistral Small 4 есть официальный артефакт NVFP4, полученный из исходного checkpoint. Для выбора необходимо разделять происхождение формата весов, совместимость среды и качество задач вместо трактовки low-bit как полного результата развёртывания.

## Прочитайте происхождение артефакта

[Карточка NVFP4](https://huggingface.co/mistralai/Mistral-Small-4-119B-2603-NVFP4/raw/main/README.md) определяет вариант после квантования активаций и описывает создание с llm-compressor. [Карточка исходной модели](https://huggingface.co/mistralai/Mistral-Small-4-119B-2603/raw/main/README.md) устанавливает родительский checkpoint и поведение инструкций и рассуждения.

[Объявление релиза](https://mistral.ai/news/mistral-small-4/) даёт контекст семейства. Общие утверждения производительности нельзя использовать как измерение конкретного квантованного артефакта на частном сервере. Официальная связь артефактов не отменяет проверки выбранной среды исполнения.

## Отделите поддержку формата от загрузки

Файл модели может описывать квантование, которое среда не исполняет на конкретном устройстве. Это результат проверки совместимости, а не свидетельство худших ответов. При этом успешная загрузка не подтверждает приемлемости каждой задачи модели.

Храните конфигурацию квантования рядом с весами. Преобразование либо подмена артефакта при прежнем отображаемом имени способны скрыть существенно другое условие сравнения выбранных вариантов.

## Подготовьте небольшой набор приёмки качества

| Пример | Защищённое требование |
| --- | --- |
| Краткая редакция уведомления | Фиксированные факты и ограничения остаются неизменными |
| Проверяемая задача ограничений | Итоговое предложение выполняет каждое условие |
| Функция с граничными случаями | Прежние допустимые входы обрабатываются правильно |
| Межфайловое изменение | Вызовы согласованы с изменённой реализацией |
| Продолжение инструмента | Итог использует реальное переданное наблюдение |

Это предлагаемые проверки, а не измеренные результаты. Их полезность определяется независимыми правилами, отделяющими изменение ответа от ухудшения его правильности.

## Согласуйте условия родительской модели

Small 4 поддерживает none и high для рассуждения. Для обоих артефактов явно сохраните выбранное условие и допуск вывода. Разный effort или обрезание одного ответа способны подменить влияние квантования различиями политики генерации.

Изучайте завершённые ответы и фактические проверки кода. Две разные правильные реализации должны проходить приёмку. Сходные формулировки не должны скрывать ошибочный крайний случай. Незавершённую доставку учитывайте отдельно от полного, но недопустимого ответа.

## Сохраните протокол приёмки артефакта

Храните ревизии родительского и квантованного репозиториев, происхождение конверсии, среду, параметры генерации и результаты примеров. До интерпретации качества укажите, загрузился ли каждый артефакт через документированный путь исполнения.

Вывод может принять NVFP4 для проверенной нагрузки или выделить конкретную регрессию для разбора. Он не устанавливает универсального отсутствия потерь, гарантированной поддержки устройств либо фиксированного ускорения по названию формата. Граница относится к скачанным артефактам и действительно проверенному тексту либо коду, а не к другим размещённым продуктам. Сохраняйте её в последующих сравнительных материалах.

## Связанные материалы

- [Квантизация LLM: как проверить качество перед выбором GPU](/ru/journal/quantization-quality/)
- [ModelOpt checkpoint: как проверить scales, calibration и export metadata](/ru/journal/modelopt-quantized-checkpoint-provenance/)