Modelos / Qwen 3
Qwen 3 30B-A3B
MoE com só 3B ativos por token. Muito rápido para o tamanho, mas precisa de memória para os 30B.
- Parâmetros
- 30.5B (3.3B ativos)
- Contexto máximo
- 256K
- Placa mínima
- 24 GB de VRAM
- Mac mínimo
- 32 GB
Alibaba · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run qwen3:30b - Q8_0
ollama run qwen3:30b-a3b-q8_0 - FP16
ollama run qwen3:30b-a3b-fp16
Quanta memória precisa
Total com pesos, KV cache e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 19,4 GB | 19,9 GB | 22,8 GB | 34,6 GB |
| Q5_K_M | 22,5 GB | 23 GB | 25,9 GB | 37,6 GB |
| Q8_0 | 33,2 GB | 33,6 GB | 36,6 GB | 48,3 GB |
| FP16 | 61,8 GB | 62,2 GB | 65,2 GB | 76,9 GB |
Placas que rodam
- RTX 4090 24 GBRoda bem≈ 205 tok/s
- RTX 3090 24 GBRoda bem≈ 190 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 158 tok/s
- RTX 5090 32 GBRoda bem≈ 364 tok/s
Macs
- M5a partir de 32 GB · ≈ 32 tok/s
- M5 Proa partir de 48 GB · ≈ 64 tok/s
- M5 Maxa partir de 36 GB · ≈ 76 tok/s
- M4a partir de 32 GB · ≈ 25 tok/s
- M4 Proa partir de 48 GB · ≈ 57 tok/s
- M4 Maxa partir de 36 GB · ≈ 67 tok/s
Arquitetura
- 48 camadas, 4 cabeças de KV de 128 dimensões.
- MoE com 128 especialistas, 8 ativos por token.
- Cada token de contexto ocupa cerca de 96 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026
Mesma família
Qwen 3 4B · Qwen 3 8B · Qwen 3 14B · Qwen 3 32B · Qwen 3 Coder 30B-A3B