VRAM: память видеокарты

VRAM определяет, какая часть модели и её рабочего состояния помещается непосредственно на GPU.

Что хранится в VRAM
Веса модели, KV-кэш контекста, временные буферы runtime и часть служебных данных. Для генерации изображений туда также попадают latent, VAE, ControlNet и другие компоненты workflow.

Почему объёмы не складываются автоматически
Две видеокарты по 12 ГБ не всегда превращаются в одну карту на 24 ГБ. Нужны поддержка model parallel, совместимый runtime и корректное распределение данных.

VRAM и скорость
Больший объём прежде всего помогает вместимости. Скорость зависит также от пропускной способности памяти, вычислительных блоков, backend и обмена по PCIe.

Практическое правило
Сначала проверяйте, помещается ли модель. Затем — остаётся ли запас. Только после этого сравнивайте скорость.