Modelos / DeepSeek R1
DeepSeek R1 8B
Raciocínio do DeepSeek R1 destilado num Qwen 3 de 8B.
- Parâmetros
- 8.2B
- Contexto máximo
- 128K
- Placa mínima
- 8 GB de VRAM
- Mac mínimo
- 16 GB
DeepSeek · licença mit · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run deepseek-r1:8b - Q8_0
ollama run deepseek-r1:8b-0528-qwen3-q8_0 - FP16
ollama run deepseek-r1:8b-0528-qwen3-fp16
Quanta memória precisa
Total com pesos, KV cache e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 6,2 GB | 6,9 GB | 11,1 GB | 27,7 GB |
| Q5_K_M | 7,1 GB | 7,8 GB | 11,9 GB | 28,6 GB |
| Q8_0 | 10,1 GB | 10,8 GB | 14,9 GB | 31,6 GB |
| FP16 | 18,1 GB | 18,8 GB | 23 GB | 39,7 GB |
Placas que rodam
- RTX 5060 Ti 8 GB 8 GBApertado≈ 58 tok/s
- RTX 5060 8 GBApertado≈ 58 tok/s
- RTX 5050 8 GBApertado≈ 42 tok/s
- RTX 4060 Ti 8 GB 8 GBApertado≈ 37 tok/s
- RTX 4060 8 GBApertado≈ 35 tok/s
- Radeon RX 7600 8 GBApertado≈ 30 tok/s
- RTX 5070 12 GBRoda bem≈ 87 tok/s
- RTX 4070 Super 12 GBRoda bem≈ 66 tok/s
- RTX 4070 12 GBRoda bem≈ 66 tok/s
- RTX 3060 12 GB 12 GBRoda bem≈ 47 tok/s
- Radeon RX 7700 XT 12 GBRoda bem≈ 45 tok/s
- Arc B580 12 GBRoda bem≈ 44 tok/s
- RTX 5080 16 GBRoda bem≈ 125 tok/s
- RTX 5070 Ti 16 GBRoda bem≈ 117 tok/s
- RTX 4080 Super 16 GBRoda bem≈ 96 tok/s
- RTX 4070 Ti Super 16 GBRoda bem≈ 87 tok/s
- Radeon RX 9070 XT 16 GBRoda bem≈ 67 tok/s
- Radeon RX 9070 16 GBRoda bem≈ 67 tok/s
- Radeon RX 7800 XT 16 GBRoda bem≈ 66 tok/s
- RTX 5060 Ti 16 GB 16 GBRoda bem≈ 58 tok/s
- RTX 4060 Ti 16 GB 16 GBRoda bem≈ 37 tok/s
- Radeon RX 9060 XT 16 GB 16 GBRoda bem≈ 34 tok/s
- Radeon RX 7600 XT 16 GBRoda bem≈ 30 tok/s
- Radeon RX 7900 XT 20 GBRoda bem≈ 84 tok/s
- RTX 4090 24 GBRoda bem≈ 131 tok/s
- RTX 3090 24 GBRoda bem≈ 122 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 101 tok/s
- RTX 5090 32 GBRoda bem≈ 233 tok/s
Macs
- M5a partir de 16 GB · ≈ 20 tok/s
- M5 Proa partir de 24 GB · ≈ 41 tok/s
- M5 Maxa partir de 36 GB · ≈ 48 tok/s
- M4a partir de 16 GB · ≈ 16 tok/s
- M4 Proa partir de 24 GB · ≈ 37 tok/s
- M4 Maxa partir de 36 GB · ≈ 43 tok/s
Arquitetura
- 36 camadas, 8 cabeças de KV de 128 dimensões.
- Cada token de contexto ocupa cerca de 144 KB de KV cache em F16.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026