VRAM: память видеокарты

VRAM определяет, какая часть модели и её рабочего состояния помещается непосредственно на GPU.

Что хранится в видеопамяти
Веса модели, KV-кэш контекста, временные буферы среды запуска и служебные данные. При генерации изображений туда также загружаются скрытые представления, VAE, ControlNet и другие компоненты схемы обработки.

Почему объёмы не складываются автоматически
Две видеокарты по 12 ГБ не всегда превращаются в одну карту на 24 ГБ. Нужна поддержка распределения модели со стороны выбранной среды запуска.

Вместимость и скорость
Больший объём памяти прежде всего позволяет запускать более крупные модели. Скорость зависит от пропускной способности памяти, вычислительных блоков, программного стека и обмена по PCIe.

Практический порядок проверки
Сначала убедитесь, что модель помещается. Затем проверьте рабочий запас, оперативную память и только после этого сравнивайте скорость.