Modelos / Qwen 3.8
Qwen 3.8 27B
O Qwen denso mais recente. KV cache só em 1 de cada 4 camadas, então o contexto longo pesa pouco.
- Parâmetros
- 27.8B
- Contexto máximo
- 256K
- Placa mínima
- 20 GB de VRAM
- Mac mínimo
- 32 GB
Alibaba · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run qwen3.8:27b - Q8_0
ollama run qwen3.8:27b-q8_0 - FP16
ollama run qwen3.8:27b-bf16
Quanta memória precisa
Total com pesos, KV cache, visão e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 18,5 GB | 18,9 GB | 21 GB | 29,4 GB |
| Q5_K_M | 21,3 GB | 21,7 GB | 23,8 GB | 32,2 GB |
| Q8_0 | 31 GB | 31,3 GB | 33,5 GB | 41,9 GB |
| FP16 | 56,9 GB | 57,3 GB | 59,4 GB | 67,8 GB |
Placas que rodam
- Radeon RX 7900 XT 20 GBApertado≈ 26 tok/s
- RTX 4090 24 GBRoda bem≈ 41 tok/s
- RTX 3090 24 GBRoda bem≈ 38 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 31 tok/s
- RTX 5090 32 GBRoda bem≈ 72 tok/s
Macs
- M5a partir de 32 GB · ≈ 6,4 tok/s
- M5 Proa partir de 48 GB · ≈ 13 tok/s
- M5 Maxa partir de 36 GB · ≈ 15 tok/s
- M4a partir de 32 GB · ≈ 5 tok/s
- M4 Proa partir de 48 GB · ≈ 11 tok/s
- M4 Maxa partir de 36 GB · ≈ 13 tok/s
Arquitetura
- 64 camadas, 4 cabeças de KV de 256 dimensões.
- 48 camadas usam atenção linear, com estado fixo; só 16 guardam KV.
- Cada token de contexto ocupa cerca de 64 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026