GeForce RTX 3090 Ti для локального ИИ
24 ГБ GDDR6X, 1008 ГБ/с. Модели 14–32B и большинство visual AI-сценариев обычно помещаются с разумными настройками. CUDA даёт широкий выбор готовых инструментов. БП от 850 Вт, длина до 313 мм. 24 ГБ, высокая пропускная способность и NVLink; очень горячая и прожорливая.
- Видеопамять
- 24 ГБ GDDR6X
- Backend
- CUDA
- Пропускная способность
- 1008 ГБ/с
- Рекомендуемый БП
- от 850 Вт
Для чего подходит
- LLM 20–32B с длинным контекстом
- FLUX и видеогенерация с меньшим числом компромиссов
- QLoRA и исследовательские задачи
Ограничения
- высокие требования к блоку питания, охлаждению и расстоянию между картами
- трёхслотовое исполнение осложняет сборку multi-GPU