RTX A6000 для локального ИИ
48 ГБ GDDR6 ECC, шина 384 бит, пропускная способность 768 ГБ/с. 48 ГБ рассчитаны на крупные текстовые модели, длинный контекст и тяжёлые конвейеры генерации. Веса 70B в Q4 приближаются к пределу ещё до учёта KV-кэша и рабочих буферов. Для референсного класса указаны блок питания от 750 Вт, длина до 267 мм и интерфейс PCIe 4.0 x16. 48 ГБ ECC и двухслотовое исполнение рассчитаны на рабочие станции с крупными моделями и несколькими картами. Скорость ниже RTX 6000 Ada, но объём памяти тот же.
- Видеопамять
- 48 ГБ GDDR6 ECC
- Backend
- CUDA
- Пропускная способность
- 768 ГБ/с
- Рекомендуемый БП
- от 750 Вт
Для чего подходит
- LLM 70B в Q4/Q5 без CPU-перенос части модели в оперативную память
- тяжёлые FLUX/Qwen-Image схемы обработки
- несколько сервисов или пользователей