Несколько GPU в ComfyUI

Обычно полезнее распределять отдельные компоненты или независимые задания, чем просто складывать объём памяти.

Обычная схема ComfyUI выполняется на выбранном устройстве. Специализированные узлы могут перенести CLIP, VAE, UNet или отдельные блоки модели на другую видеокарту.

Параллельная очередь запускает независимые задания на разных картах и увеличивает общую пропускную способность, но не расширяет память одного задания.

Экспериментальные распределённые узлы могут делить блоки трансформера. Результат зависит от модели, версии узла и скорости обмена между устройствами.