RTX 6000 Ada для локального ИИ
48 ГБ GDDR6 ECC, шина 384 бит, пропускная способность 960 ГБ/с. 48 ГБ рассчитаны на крупные текстовые модели, длинный контекст и тяжёлые конвейеры генерации. Веса 70B в Q4 приближаются к пределу ещё до учёта KV-кэша и рабочих буферов. Для референсного класса указаны блок питания от 750 Вт, длина до 267 мм и интерфейс PCIe 4.0 x16. 48 ГБ ECC, двухслотовое исполнение и 300 Вт упрощают плотную рабочую станцию. Стоимость относится к профессиональному классу.
- Видеопамять
- 48 ГБ GDDR6 ECC
- Backend
- CUDA
- Пропускная способность
- 960 ГБ/с
- Рекомендуемый БП
- от 750 Вт
Для чего подходит
- LLM 70B в Q4/Q5 без CPU-перенос части модели в оперативную память
- тяжёлые FLUX/Qwen-Image схемы обработки
- несколько сервисов или пользователей