В этом материале
RTX 3090 даёт 24 GB на GPU; оценка существующей платы включает качество результата, память и состояние системы, а не только загрузку модели.
Полный профиль существующей Ampere
RTX 3090 имеет 24 GB GDDR6X и эталонную характеристику платы 350 W. У RTX 3090 Ti ёмкость также 24 GB, но другой power specification. Это разные модели. Здесь рассматриваются одновременно LLM и Cycles, дополняя отдельный материал о выборе модели для 3090. Таблица относится к одному GPU. Для уже имеющейся карты сохраняют AIB identity, доступную VRAM и физическое размещение. История эксплуатации не восстанавливается из названия: пригодность проверяют текущими наблюдениями, а не предполагают по возрасту или общим отзывам о семействе устройств.
| Официальный вариант | Память на GPU | Тип памяти | Мощность платы | Источник |
|---|---|---|---|---|
| NVIDIA GeForce RTX 3090 — 24 GB дизайн из таблицы NVIDIA | 24 GB | GDDR6X | 350 W | Спецификация |
Проверить выбранную LLM, а не весь класс
Условия vLLM сопоставляют с точным checkpoint, dtype и версией среды. Ampere проходит аппаратный минимум, но не сертифицирует каждый kernel. Для 3090 фиксируют tokenizer, контекст и предел вывода, затем сохраняют корректность ответа, terminal state и память. Если выбранная конфигурация требует offload, это записывают отдельно. llama.cpp CUDA является самостоятельным путём; его успешный запуск не доказывает поддержку другой serving библиотеки. Сравнение разных quantization требует проверки качества. Наличие 24 GB не означает гарантированный fit любой модели с похожим размером файла или бесконечный рост контекста без расхода KV cache.
Принять серверную сцену Cycles
Руководство Blender описывает CUDA и OptiX, поддерживающие RTX hardware acceleration при подходящей конфигурации. Для 3090 сохраняют конкретный проект, assets и настройки качества. Проверяют выбранный GPU, ошибки и изображение. При обращении к host RAM этот режим отделяют от локальной резидентности. Неудача одного материала или отсутствие backend не обязательно означает аппаратную неисправность: сначала сверяют software requirements. Успешная сцена не подтверждает каждый внешний renderer и не устанавливает время произвольного кадра. Для сравнения с другими GPU нужен тот же рабочий пакет, а не только одинаковое название программы.
Различать состояние карты и стека
На существующем сервере регистрируют драйвер, GPU identity, процессы и доступные события устройства до опыта. Короткий набор задач выполняют при штатном охлаждении и без принудительных clocks. Если возникают ошибки, сохраняют хронологию и отделяют сбой драйвера от out-of-memory приложения. Показатель 350 W относится к reference board; питание всего узла и конкретные разъёмы AIB сверяют отдельно. Резидентная модель может занимать память между запросами. Перед передачей GPU render worker проверяют фактическое освобождение ресурса, не требуя бессмысленного нулевого значения всей VRAM вместе с драйвером и дисплеем.
Сформировать запись приёмки
Артефакт содержит manifests LLM и сцены, версии, исходный baseline, статусы и показатели памяти. При отказе только длинного контекста исследуют KV budget; при ошибке только сцены — assets и render backend. Повторяемый системный сбой требует отдельной диагностики с сохранёнными журналами. Решение описывает, какие конкретные задания проходят на этой RTX 3090 сейчас. Оно не гарантирует отсутствие редких дефектов, непрерывную доступность или равенство с RTX 4090. Также не назначается доходность или обязательная скорость токенов: такие величины потребовали бы самостоятельного workload и измерения на подходящей границе.
RTX 3090 24GB: как выбрать модель для локального запуска · RTX 3090 или RTX 4090 для LLM: что сравнивать при одинаковой VRAM · Каталог GPU