AMD Instinct MI300X для локального ИИ
192 ГБ HBM3, шина 8192 бит и пропускная способность 5300 ГБ/с. Карта ориентирована на профессиональные вычисления, инференс и работу с локальными моделями. Для длительной нагрузки важны охлаждение, совместимый корпус или сервер и подходящий программный стек.
- Видеопамять
- 192 ГБ HBM3
- Backend
- ROCm
- Пропускная способность
- 5300 ГБ/с
- Рекомендуемый БП
- от 1600 Вт
Для чего подходит
- Локальные LLM и инференс
- Работа с большими контекстами
- Профессиональные вычисления и генеративный ИИ
Ограничения
- не предназначена для обычного игрового ПК