GeForce GTX 1080 Ti для локального ИИ
11 ГБ GDDR5X, шина 352 бит, пропускная способность 484 ГБ/с и PCIe 3.0 x16. Большой для Pascal объём памяти позволяет запускать LLM 7B и часть 13B в Q4. Производительность остаётся ограниченной отсутствием Tensor Cores и старой архитектурой.
- Видеопамять
- 11 ГБ GDDR5X
- Backend
- CUDA
- Пропускная способность
- 484 ГБ/с
- Рекомендуемый БП
- от 600 Вт
Для чего подходит
- LLM 7B и часть 13B в Q4
- SDXL с оптимизациями
- FP32 CUDA-задачи с высокой пропускной способностью памяти
Ограничения
- Pascal не ускоряет современные tensor-операции так, как RTX
- 11 ГБ всё ещё мало для крупных моделей и тяжёлого видео