Modelos / Phi
Phi-4 14B
14B da Microsoft, bom em matemática e raciocínio estruturado.
- Parâmetros
- 14.7B
- Contexto máximo
- 16K
- Placa mínima
- 16 GB de VRAM
- Mac mínimo
- 16 GB
Microsoft · licença mit · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run phi4:14b - Q8_0
ollama run phi4:14b-q8_0 - FP16
ollama run phi4:14b-fp16
Quanta memória precisa
Total com pesos, KV cache e runtime, por quantização e contexto.
| Quantização | 4K | 8K |
|---|---|---|
| Q4_K_M | 10,3 GB | 11,2 GB |
| Q5_K_M | 11,8 GB | 12,7 GB |
| Q8_0 | 17 GB | 17,9 GB |
| FP16 | 31 GB | 31,9 GB |
Placas que rodam
- RTX 5080 16 GBRoda bem≈ 72 tok/s
- RTX 5070 Ti 16 GBRoda bem≈ 67 tok/s
- RTX 4080 Super 16 GBRoda bem≈ 55 tok/s
- RTX 4070 Ti Super 16 GBRoda bem≈ 50 tok/s
- Radeon RX 9070 XT 16 GBRoda bem≈ 39 tok/s
- Radeon RX 9070 16 GBRoda bem≈ 39 tok/s
- Radeon RX 7800 XT 16 GBRoda bem≈ 38 tok/s
- RTX 5060 Ti 16 GB 16 GBRoda bem≈ 34 tok/s
- RTX 4060 Ti 16 GB 16 GBRoda bem≈ 22 tok/s
- Radeon RX 9060 XT 16 GB 16 GBRoda bem≈ 19 tok/s
- Radeon RX 7600 XT 16 GBRoda bem≈ 17 tok/s
- Radeon RX 7900 XT 20 GBRoda bem≈ 49 tok/s
- RTX 4090 24 GBRoda bem≈ 76 tok/s
- RTX 3090 24 GBRoda bem≈ 70 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 58 tok/s
- RTX 5090 32 GBRoda bem≈ 135 tok/s
Macs
- M5a partir de 16 GB · ≈ 12 tok/s
- M5 Proa partir de 24 GB · ≈ 24 tok/s
- M5 Maxa partir de 36 GB · ≈ 28 tok/s
- M4a partir de 16 GB · ≈ 9,3 tok/s
- M4 Proa partir de 24 GB · ≈ 21 tok/s
- M4 Maxa partir de 36 GB · ≈ 25 tok/s
Arquitetura
- 40 camadas, 10 cabeças de KV de 128 dimensões.
- Cada token de contexto ocupa cerca de 200 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026