GeForce RTX 5090 для локального ИИ
32 ГБ GDDR7, шина 512 бит, пропускная способность 1792 ГБ/с. 32 ГБ подходят для большинства моделей 20-32B в Q4 и тяжёлых схем генерации. Модели 70B по-прежнему требуют нескольких карт или размещения части данных в RAM. Для референсного класса указаны блок питания от 1000 Вт, длина до 304 мм и интерфейс PCIe 5.0 x16. 32 ГБ уменьшают число задач, где приходится переносить данные в оперативную память. При сборке важны блок питания, свободное место в корпусе и отвод тепла при длительной нагрузке.
- Видеопамять
- 32 ГБ GDDR7
- Backend
- CUDA
- Пропускная способность
- 1792 ГБ/с
- Рекомендуемый БП
- от 1000 Вт
Для чего подходит
- LLM 20-32B с длинным контекстом
- FLUX и видеогенерация с меньшим числом компромиссов
- QLoRA и исследовательские задачи
Ограничения
- высокие требования к блоку питания, охлаждению и расстоянию между картами
- трёхслотовое исполнение осложняет сборку нескольких видеокарт