GeForce RTX 3080 Ti для локального ИИ
12 ГБ GDDR6X, шина 384 бит, пропускная способность 912 ГБ/с. 12 ГБ позволяют уверенно запускать большинство 7-8B моделей в Q4 и часть профилей 14B. Для FLUX, видео и большого контекста запас остаётся небольшим. Для референсного класса указаны блок питания от 750 Вт, длина до 285 мм и интерфейс PCIe 4.0 x16. Пропускная способность высокая, но 12 ГБ ограничивают размер модели. Для локального ИИ RTX 3090 часто практичнее именно из-за памяти.
- Видеопамять
- 12 ГБ GDDR6X
- Backend
- CUDA
- Пропускная способность
- 912 ГБ/с
- Рекомендуемый БП
- от 750 Вт
Для чего подходит
- LLM 7-8B и часть 14B в Q4
- SDXL и умеренные сценарии ComfyUI
- локальные ассистенты и RAG
Ограничения
- высокие требования к блоку питания, охлаждению и расстоянию между картами
- трёхслотовое исполнение осложняет сборку нескольких видеокарт