DeepSeek-R1-Distill-Qwen-32B
Крупная модель для рассуждений, рассчитанная на 24-48 ГБ видеопамяти или правильно собранную систему с несколькими картами.
Для чего подходит
- сложная математика
- код и анализ ошибок
- технические документы
- рабочая станция с 24 ГБ и больше
Ограничения
- 24 ГБ являются пограничным режимом для Q4 и длинного контекста
- перенос части данных в RAM сильно ухудшает интерактивность