Qwen3 32B
Сильная dense-модель для кода и reasoning; Q4 находится у границы 24 ГБ с учётом KV-кэша и runtime.
Для чего подходит
- сложный код
- локальный аналитический ассистент
- длинные инструкции
- сервер на 24–48 ГБ
Ограничения
- 16 ГБ почти неизбежно требуют offload или пары карт
- большой контекст требует отдельного запаса памяти