Radeon RX 7900 XTX для локального ИИ
24 ГБ GDDR6, шина 384 бит, пропускная способность 960 ГБ/с. 24 ГБ позволяют запускать модели 14B с большим запасом и многие профили 20-32B в Q4. Большой контекст и видео могут заметно сократить свободную память. Для референсного класса указаны блок питания от 800 Вт, длина до 287 мм и интерфейс PCIe 4.0 x16. 24 ГБ и высокая пропускная способность дают подходящую аппаратную базу. Перед закупкой нужно проверить поддержку конкретной модели и версии ROCm.
- Видеопамять
- 24 ГБ GDDR6
- Backend
- ROCm / Vulkan
- Пропускная способность
- 960 ГБ/с
- Рекомендуемый БП
- от 800 Вт
Для чего подходит
- LLM 20-32B с длинным контекстом
- FLUX и видеогенерация с меньшим числом компромиссов
- QLoRA и исследовательские задачи
Ограничения
- не все CUDA-ориентированные проекты имеют равноценный ROCm-путь
- Windows-сценарии обычно менее предсказуемы, чем Linux
- высокие требования к блоку питания, охлаждению и расстоянию между картами