Roda Local

Modelos / Qwen 3

Qwen 3 4B

Pequeno e surpreendentemente capaz. Roda até em notebooks sem placa dedicada.

Parâmetros
4B
Contexto máximo
256K
Placa mínima
6 GB de VRAM
Mac mínimo
8 GB

Alibaba · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run qwen3:4b
  • Q8_0
    ollama run qwen3:4b-q8_0
  • FP16
    ollama run qwen3:4b-fp16

Quanta memória precisa

Total com pesos, KV cache e runtime, por quantização e contexto.

Quantização4K8K32K128K
Q4_K_M3,5 GB4,2 GB8,3 GB25 GB
Q5_K_M3,9 GB4,6 GB8,7 GB25,4 GB
Q8_05,3 GB6 GB10,2 GB26,9 GB
FP169,2 GB9,9 GB14 GB30,7 GB

Placas que rodam

Macs

  • M5a partir de 16 GB · ≈ 43 tok/s
  • M5 Proa partir de 24 GB · ≈ 86 tok/s
  • M5 Maxa partir de 36 GB · ≈ 101 tok/s
  • M4a partir de 16 GB · ≈ 34 tok/s
  • M4 Proa partir de 24 GB · ≈ 77 tok/s
  • M4 Maxa partir de 36 GB · ≈ 90 tok/s

Arquitetura

  • 36 camadas, 8 cabeças de KV de 128 dimensões.
  • Cada token de contexto ocupa cerca de 144 KB de KV cache em F16.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Qwen 3 8B · Qwen 3 14B · Qwen 3 32B · Qwen 3 30B-A3B · Qwen 3 Coder 30B-A3B