GeForce RTX 3080 Ti для локального ИИ
12 ГБ GDDR6X, 912 ГБ/с. Хорошо подходит для LLM 7–8B и SDXL; для более крупных моделей потребуется offload в RAM. CUDA даёт широкий выбор готовых инструментов. БП от 750 Вт, длина до 285 мм. Высокая скорость, но 12 ГБ хуже подходят для крупных AI-моделей, чем 24-ГБ 3090.
- Видеопамять
- 12 ГБ GDDR6X
- Backend
- CUDA
- Пропускная способность
- 912 ГБ/с
- Рекомендуемый БП
- от 750 Вт
Для чего подходит
- LLM 7–8B и часть 14B в Q4
- SDXL и умеренные ComfyUI workflow
- локальные ассистенты и RAG
Ограничения
- высокие требования к блоку питания, охлаждению и расстоянию между картами
- трёхслотовое исполнение осложняет сборку multi-GPU