Modelos / Gemma 4
Gemma 4 26B-A4B
MoE do Gemma 4 com cerca de 4B ativos. Qualidade de modelo grande com velocidade de pequeno.
- Parâmetros
- 25.8B (3.8B ativos)
- Contexto máximo
- 256K
- Placa mínima
- 24 GB de VRAM
- Mac mínimo
- 32 GB
Google · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto
Rodar no Ollama
- Q4_K_M
ollama run gemma4:26b - Q8_0
ollama run gemma4:26b-a4b-it-q8_0 - FP16
ollama run gemma4:26b-mlx-bf16
Quanta memória precisa
Total com pesos, KV cache, visão e runtime, por quantização e contexto.
| Quantização | 4K | 8K | 32K | 128K |
|---|---|---|---|---|
| Q4_K_M | 18,9 GB | 19,1 GB | 20 GB | 23,9 GB |
| Q5_K_M | 21,8 GB | 21,9 GB | 22,9 GB | 26,8 GB |
| Q8_0 | 31,6 GB | 31,7 GB | 32,7 GB | 36,6 GB |
| FP16 | 57,9 GB | 58 GB | 59 GB | 62,9 GB |
Placas que rodam
- RTX 4090 24 GBRoda bem≈ 164 tok/s
- RTX 3090 24 GBRoda bem≈ 152 tok/s
- Radeon RX 7900 XTX 24 GBRoda bem≈ 126 tok/s
- RTX 5090 32 GBRoda bem≈ 291 tok/s
Macs
- M5a partir de 32 GB · ≈ 26 tok/s
- M5 Proa partir de 48 GB · ≈ 51 tok/s
- M5 Maxa partir de 36 GB · ≈ 60 tok/s
- M4a partir de 32 GB · ≈ 20 tok/s
- M4 Proa partir de 48 GB · ≈ 46 tok/s
- M4 Maxa partir de 36 GB · ≈ 54 tok/s
Arquitetura
- 30 camadas, 8 cabeças de KV de 256 dimensões.
- 25 camadas olham só os últimos 1.024 tokens; 5 guardam o contexto inteiro.
- As camadas globais usam 2 cabeças de 512 dimensões.
- MoE com 128 especialistas, 8 ativos por token.
Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026