Видеокарты для локального ИИ

Сравните объём VRAM, программную совместимость, питание и габариты. Для окончательной проверки откройте модель видеокарты или калькулятор.

• Arc A750 — 8 ГБ GDDR6, 512 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. Используемый backend: XPU / Vulkan. БП от 600 Вт, длина до 267 мм. Неплохая пропускная способность, но 8 ГБ и ограниченная совместимость снижают универсальность.
• Arc A770 16GB — 16 ГБ GDDR6, 560 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. Используемый backend: XPU / Vulkan. БП от 650 Вт, длина до 267 мм. 16 ГБ полезны для локального ИИ; лучший результат требует приложений с Intel XPU/oneAPI или Vulkan.
• Arc B570 — 10 ГБ GDDR6, 380 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. Используемый backend: XPU / Vulkan. БП от 550 Вт, длина до 272 мм. Интересна для недорогих экспериментов, но выбор совместимого ПО уже, чем у NVIDIA.
• Arc B580 — 12 ГБ GDDR6, 456 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. Используемый backend: XPU / Vulkan. БП от 600 Вт, длина до 272 мм. 12 ГБ и хорошая цена; AI-совместимость развивается, но CUDA-приложения напрямую не работают.
• GeForce GTX 1650 4GB — 4 ГБ GDDR6, 192 ГБ/с. Подходит только для компактных моделей и тестовых сценариев с минимальными настройками. CUDA даёт широкий выбор готовых инструментов. БП от 350 Вт, длина до 202 мм. Только небольшие модели и низковременные режимы; без Tensor Cores.
• GeForce RTX 3050 8GB — 8 ГБ GDDR6, 224 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. CUDA даёт широкий выбор готовых инструментов. БП от 500 Вт, длина до 242 мм. Подходит для обучения и экспериментов, но крупные модели требуют CPU-offload.
• GeForce RTX 3060 12GB — 12 ГБ GDDR6, 360 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. CUDA даёт широкий выбор готовых инструментов. БП от 550 Вт, длина до 242 мм. Популярная бюджетная карта для локального ИИ благодаря 12 ГБ.
• GeForce RTX 3080 10GB — 10 ГБ GDDR6X, 760 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 285 мм. Быстрая, но 10 ГБ — неудобный предел для современных diffusion-моделей.
• GeForce RTX 3080 Ti — 12 ГБ GDDR6X, 912 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 285 мм. Высокая скорость, но 12 ГБ хуже подходят для крупных AI-моделей, чем 24-ГБ 3090.
• GeForce RTX 3090 — 24 ГБ GDDR6X, 936 ГБ/с. Модели 14–32B и большинство visual AI-сценариев обычно помещаются с разумными настройками. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 313 мм. На вторичном рынке часто лучший объём VRAM за рубль. Нужна проверка памяти и охлаждения.
• GeForce RTX 3090 Ti — 24 ГБ GDDR6X, 1008 ГБ/с. Модели 14–32B и большинство visual AI-сценариев обычно помещаются с разумными настройками. CUDA даёт широкий выбор готовых инструментов. БП от 850 Вт, длина до 313 мм. 24 ГБ, высокая пропускная способность и NVLink; очень горячая и прожорливая.
• GeForce RTX 4060 — 8 ГБ GDDR6, 272 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. CUDA даёт широкий выбор готовых инструментов. БП от 550 Вт, длина до 244 мм. Энергоэффективный старт для SD и небольших LLM; 8 ГБ быстро становятся пределом.
• GeForce RTX 4060 Ti 16GB — 16 ГБ GDDR6, 288 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 550 Вт, длина до 244 мм. Много памяти при сравнительно узкой шине. Хороша, когда важнее вместимость, чем скорость.
• GeForce RTX 4070 SUPER — 12 ГБ GDDR6X, 504 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. CUDA даёт широкий выбор готовых инструментов. БП от 650 Вт, длина до 244 мм. Быстрая и экономичная, но 12 ГБ ограничивают модели 20–30B без выгрузки.
• GeForce RTX 4070 Ti SUPER — 16 ГБ GDDR6X, 672 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 700 Вт, длина до 285 мм. Один из наиболее рациональных вариантов с 16 ГБ в поколении RTX 40.
• GeForce RTX 4080 SUPER — 16 ГБ GDDR6X, 736 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 304 мм. Сильная 16-ГБ карта; у крупных моделей ограничение чаще память, а не вычисления.
• GeForce RTX 4090 — 24 ГБ GDDR6X, 1008 ГБ/с. Модели 14–32B и большинство visual AI-сценариев обычно помещаются с разумными настройками. CUDA даёт широкий выбор готовых инструментов. БП от 850 Вт, длина до 304 мм. 24 ГБ и зрелая CUDA-экосистема делают карту одной из лучших для локального ИИ.
• GeForce RTX 5060 — 8 ГБ GDDR7, 448 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. CUDA даёт широкий выбор готовых инструментов. БП от 550 Вт, длина до 242 мм. Подходит для SD 1.5/SDXL с оптимизациями и небольших LLM.
• GeForce RTX 5060 Ti 16GB — 16 ГБ GDDR7, 448 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 600 Вт, длина до 242 мм. Практичный бюджетный вариант из-за 16 ГБ, но пропускная способность ниже старших карт.
• GeForce RTX 5060 Ti 8GB — 8 ГБ GDDR7, 448 ГБ/с. Рассчитана на компактные LLM 3–7B и облегчённые visual AI-сценарии. CUDA даёт широкий выбор готовых инструментов. БП от 600 Вт, длина до 242 мм. Вариант 8 ГБ заметно хуже для локального ИИ, несмотря на близкую вычислительную скорость.
• GeForce RTX 5070 — 12 ГБ GDDR7, 672 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. CUDA даёт широкий выбор готовых инструментов. БП от 650 Вт, длина до 242 мм. Быстрая, но 12 ГБ ограничивают крупные LLM и тяжёлые FLUX-workflow.
• GeForce RTX 5070 Ti — 16 ГБ GDDR7, 896 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 304 мм. Хороший баланс 16 ГБ и скорости. Для пары важны расстояние между слотами и охлаждение.
• GeForce RTX 5080 — 16 ГБ GDDR7, 960 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. CUDA даёт широкий выбор готовых инструментов. БП от 850 Вт, длина до 304 мм. Сильная карта для генерации изображений и LLM до среднего размера; 16 ГБ часто становятся главным ограничением.
• GeForce RTX 5090 — 32 ГБ GDDR7, 1792 ГБ/с. Подходит для LLM среднего и крупного размера, обучения LoRA и тяжёлой генерации изображений. CUDA даёт широкий выбор готовых инструментов. БП от 1000 Вт, длина до 304 мм. Максимальная однокарточная VRAM среди потребительских RTX 50. Требовательна к питанию и корпусу.
• RTX 6000 Ada — 48 ГБ GDDR6 ECC, 960 ГБ/с. Подходит для крупных LLM, тяжёлых visual AI-workflow и рабочих задач без постоянного offload. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 267 мм. 48 ГБ ECC, высокая скорость и удобный двухслотовый форм-фактор; дорого.
• RTX A6000 — 48 ГБ GDDR6 ECC, 768 ГБ/с. Подходит для крупных LLM, тяжёлых visual AI-workflow и рабочих задач без постоянного offload. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 267 мм. 48 ГБ ECC и двухслотовый корпус. Подходит для крупных моделей и плотных рабочих станций.
• Radeon PRO W7900 — 48 ГБ GDDR6 ECC, 864 ГБ/с. Подходит для крупных LLM, тяжёлых visual AI-workflow и рабочих задач без постоянного offload. Для Linux важно заранее проверить поддержку ROCm. БП от 800 Вт, длина до 280 мм. 48 ГБ ECC и профессиональная компоновка; пригодность зависит от поддержки ROCm в выбранном фреймворке.
• Radeon RX 6800 XT — 16 ГБ GDDR6, 512 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. Используемый backend: ROCm / Vulkan. БП от 750 Вт, длина до 267 мм. Неплохой объём VRAM, но перед покупкой под AI надо подтвердить поддержку конкретного ROCm-релиза.
• Radeon RX 6950 XT — 16 ГБ GDDR6, 576 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. Используемый backend: ROCm / Vulkan. БП от 850 Вт, длина до 267 мм. 16 ГБ и высокая игровая скорость; AI-поддержка зависит от версии ROCm и приложения.
• Radeon RX 7700 XT — 12 ГБ GDDR6, 432 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. Используемый backend: ROCm / Vulkan. БП от 700 Вт, длина до 267 мм. 12 ГБ достаточно для SDXL и небольших LLM, но экосистема требует больше ручной настройки.
• Radeon RX 7800 XT — 16 ГБ GDDR6, 624 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. Используемый backend: ROCm / Vulkan. БП от 700 Вт, длина до 267 мм. 16 ГБ за разумные деньги; лучше всего рассматривать Linux и заранее проверять нужный стек.
• Radeon RX 7900 XT — 20 ГБ GDDR6, 800 ГБ/с. Модели 7–14B, SDXL и FLUX обычно запускаются без большого переноса в системную память. Используемый backend: ROCm / Vulkan. БП от 750 Вт, длина до 276 мм. 20 ГБ дают хороший запас, но программная поддержка менее универсальна, чем CUDA.
• Radeon RX 7900 XTX — 24 ГБ GDDR6, 960 ГБ/с. Модели 14–32B и большинство visual AI-сценариев обычно помещаются с разумными настройками. Используемый backend: ROCm / Vulkan. БП от 800 Вт, длина до 287 мм. 24 ГБ по привлекательной цене, но совместимость конкретных AI-пакетов надо проверять под ROCm/Linux.