CPU, GPU И RAM

GPU для Stable Diffusion: разрешение, batch и память модели

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Память для Stable Diffusion подбирают по всей конфигурации генерации; название семейства и размер файла весов не задают универсальный минимум.

Требования GPU для Stable Diffusion зависят от конкретной модели и полной конфигурации генерации: разрешения, batch, числового формата, дополнительных компонентов и управления памятью. Универсальное значение VRAM без этих параметров плохо подходит для выбора оборудования.

Для владельца ускорителя первый полезный результат — сохранённый сценарий, который стабильно завершается на его карте. Затем можно расширять разрешение или нагрузку, наблюдая, где появляется ограничение и какой компромисс приемлем для задачи.

Выберите конкретный конвейер

Руководство Diffusers по SDXL описывает определённое семейство и его компоненты. Оно не заменяет документацию для любой модели, которую называют Stable Diffusion. На странице main также важно учитывать предупреждение о соответствии версии библиотеки.

Запишите точный идентификатор весов, ревизию, модель VAE и используемые дополнительные компоненты. Если часть обработки выполняется другой программой, включите её в карточку теста и общую длительность.

Зафиксируйте источники памяти

ПараметрЧто меняетКак проверять
Модель и формат весовРазмещение параметровВерсия и фактическая загрузка
РазрешениеРабочие данные изображенияПик полного прохода
BatchЧисло одновременных результатовВместимость и пропускная способность
Дополнительные моделиНовые компонентыОбщий пик и порядок работы
Декодирование VAEОтдельную стадиюОшибки и память при выводе

Не делайте вывод только по памяти после загрузки весов. Пиковая операция может происходить позднее, когда уже кажется, что модель успешно запущена.

Проверьте способы экономии

Документация Diffusers об уменьшении памяти рассматривает offload и другие способы размещения компонентов. Их применимость зависит от архитектуры и программной среды. Снижение VRAM может сопровождаться изменением времени и использованием RAM.

Меняйте один способ за раз и повторяйте контроль результата. Не переносите измерение одной оптимизации в другую библиотеку без теста. Также укажите, остаётся ли на карте память для системы и соседних процессов в реальном режиме эксплуатации.

Измерьте рабочую границу

Начните с одного изображения и базового разрешения своего проекта. Затем увеличьте один параметр: разрешение или batch. Сохраните полную длительность, пик VRAM и готовый результат. После ошибки вернитесь к последней проверенной конфигурации, не называя её пределом всех возможных настроек.

Условный план может содержать три разрешения и два размера пакета. Это шесть тестовых условий, а не прогноз производительности. Для каждого нужны одинаковые веса, параметры генерации и описанный режим подготовки среды.

Для дополнительной проверки повторите верхний рабочий режим после нескольких обычных заданий. Так станет видно, сохраняется ли вместимость в типичной сессии, а не только после чистого запуска.

Выбирайте по полезной задаче

Если карта вмещает модель только с переносами, оцените, устраивает ли задержка пользователя и расписание сервера. Если важна очередь независимых изображений, отдельно измерьте полное время пакета. Максимальное разрешение одного прохода не описывает эту задачу.

Для оформления используйте различия RAM и VRAM и методику бенчмарка инференса.

← Все материалы