Roda Local

Modelos / Gemma 4

Gemma 4 E4B

Gemma 4 pensado para celular e notebook. Rápido e leve.

Parâmetros
8B
Contexto máximo
128K
Placa mínima
10 GB de VRAM
Mac mínimo
16 GB

Google · licença apache-2.0 · mínimos com Q4_K_M e 8K de contexto

Rodar no Ollama

  • Q4_K_M
    ollama run gemma4:e4b
  • Q8_0
    ollama run gemma4:e4b-it-q8_0
  • FP16
    ollama run gemma4:e4b-it-bf16

Quanta memória precisa

Total com pesos, KV cache, visão e runtime, por quantização e contexto.

Quantização4K8K32K128K
Q4_K_M6,9 GB7 GB7,9 GB11,4 GB
Q5_K_M7,8 GB7,9 GB8,8 GB12,3 GB
Q8_010,9 GB11,1 GB12 GB15,4 GB
FP1619,4 GB19,5 GB20,4 GB23,9 GB

Placas que rodam

Macs

  • M5a partir de 16 GB · ≈ 19 tok/s
  • M5 Proa partir de 24 GB · ≈ 39 tok/s
  • M5 Maxa partir de 36 GB · ≈ 46 tok/s
  • M4a partir de 16 GB · ≈ 15 tok/s
  • M4 Proa partir de 24 GB · ≈ 35 tok/s
  • M4 Maxa partir de 36 GB · ≈ 41 tok/s

Arquitetura

  • 42 camadas, 2 cabeças de KV de 256 dimensões.
  • 20 camadas olham só os últimos 512 tokens; 4 guardam o contexto inteiro.
  • As camadas globais usam 2 cabeças de 512 dimensões.

Fontes: config.json · arquivo de pesos · atualizado em 16/10/2026

Mesma família

Gemma 4 12B · Gemma 4 26B-A4B · Gemma 4 31B