DeepSeek-R1-Distill-Qwen-32B
Крупная reasoning-модель для 24–48 ГБ VRAM или грамотно собранной multi-GPU системы.
Для чего подходит
- сложная математика
- код и анализ ошибок
- технические документы
- рабочая станция с 24+ ГБ
Ограничения
- 24 ГБ — пограничный режим для Q4 и большого контекста
- CPU-offload сильно портит интерактивность