В этом материале
Требования gpt-oss-20b зависят от формата и реализации. Ориентир для MXFP4 нельзя переносить на BF16 или любой GPU; нужно проверить поддерживаемый стек и фактический рабочий режим.
Для gpt-oss-20b сначала проверьте формат и реализацию. Официальный ориентир запуска с MXFP4 не означает такой же расход в BF16 и не устанавливает поддержку любой карты. Конкретная сборка, контекст и режим рассуждения должны входить в паспорт локального теста.
Уточните размер модели правильно
OpenAI описывает gpt-oss-20b как открытую модель с примерно 21 миллиардом общих и 3,6 миллиарда активных параметров. Для памяти нельзя использовать только активное число, как будто остальные веса отсутствуют.
Полное имя и ревизия важнее округлённого 20b. Не смешивайте исходный артефакт с другой сборкой или вариантом safeguard только из-за общего семейства.
Проверяйте лицензию и условия использования до внешней нагрузки. Локальная доступность модели не заменяет технической и организационной оценки сервиса.
Прочитайте условия MXFP4
Официальное руководство OpenAI по Transformers связывает оценку памяти с MXFP4 и поддерживаемой реализацией. При другом представлении расход может существенно отличаться.
Не превращайте приведённый в руководстве ориентир в обещание «всё помещается» при любом максимальном входе. Для запуска нужны веса и рабочие структуры; для потока дополнительно важны последовательности и параллельность.
Паспорт должен включать GPU, драйвер, версии библиотек и фактически использованный формат. Одного размера скачанных файлов недостаточно.
Начните с короткого контрольного запроса
Возьмите вопрос с известным итогом и ограничьте длину результата. Запишите режим reasoning и ожидаемое представление ответа в выбранном интерфейсе.
Сначала проверьте правильную загрузку и завершение одной сессии. Если вывод содержит служебные каналы или неожиданный формат, уточните шаблон и парсер, прежде чем считать модель неисправной.
Для технического теста используйте обезличенные данные. Применение результата к реальному рабочему процессу — следующий этап, который требует собственных критериев качества.
Расширяйте память по одному фактору
Увеличьте вход, сохранив ограничение ответа. Затем отдельно проверьте более длинную генерацию. Только после этого добавьте совместные обращения.
Если ошибка возникает после успешного старта, не делайте вывод только о весах. Нужно понять, на каком этапе увеличивается расход памяти и какие процессы работают рядом.
Проверьте фактическую продолжительность результата. Разные режимы рассуждения могут создавать разную генерацию, поэтому сравнение задержек должно сохранять выбранные условия.
Зафиксируйте также способ загрузки и фактический формат в журнале, если движок сообщает его. Наличие обозначения MXFP4 в карточке не доказывает, что произвольная среда использует ожидаемый путь. Для контрольного сравнения сохраните короткий запрос, размер выхода и исходное состояние памяти. Затем добавляйте контекст отдельным опытом. Это позволяет объяснить расхождение с опубликованным примером без догадок о неисправности карты: отличаются не только гигабайты, но и программная поддержка, артефакт, буферы и рабочий профиль.
Повторите проверку после перезапуска процесса, чтобы убедиться в сохранении выбранного пути загрузки. В отчёте отметьте, повторно ли скачивались файлы и изменялся ли этап подготовки модели.
Как описать конфигурацию владельцу
Итогом должна быть конкретная поддерживаемая связка, а не универсальная рекомендация всем картам с определённой VRAM. Сохраните также порядок выгрузки и восстановления среды после пилота.
Для подготовки прочитайте общий и активный размер gpt-oss-120b, память весов и CUDA OOM при загрузке. Техническая возможность использования не является обещанием готового канала продаж или доходности.