Roda Local

RTX 3090 vs RTX 4090 para IA local

Com a mesma VRAM, a RTX 4090 leva vantagem na velocidade; vale se a diferença de preço for pequena.

RTX 3090

VRAM
24 GB
Banda
936 GB/s
Modelos que cabem
40 de 44
Lançamento
2020

Fora de linha no KaBuM! Sem preço acompanhado.

RTX 4090

VRAM
24 GB
Banda
1.008 GB/s
Modelos que cabem
40 de 44
Lançamento
2022

Fora de linha no KaBuM! Sem preço acompanhado.

Veredito

  • As duas têm 24 GB de VRAM, então cabem os mesmos 40 modelos.
  • Nos modelos que rodam nas duas, a RTX 4090 gera cerca de 8% mais tokens por segundo (banda de 1.008 contra 936 GB/s).

Com a mesma VRAM, a RTX 4090 leva vantagem na velocidade; vale se a diferença de preço for pequena.

Modelo a modelo

Com Q4_K_M e 8K de contexto. Só aparecem os 40 modelos que cabem em pelo menos uma das duas.

ModeloRTX 3090RTX 4090
qwen/qwen3.5-35b-a3bApertado≈ 217 tok/sApertado≈ 233 tok/s
qwen/qwen3-32bApertado≈ 32 tok/sApertado≈ 34 tok/s
deepseek/deepseek-r1-32bApertado≈ 32 tok/sApertado≈ 35 tok/s
google/gemma4-31bApertado≈ 34 tok/sApertado≈ 37 tok/s
zai/glm-4.7-flashRoda bem≈ 209 tok/sRoda bem≈ 225 tok/s
qwen/qwen3-30b-a3bRoda bem≈ 190 tok/sRoda bem≈ 205 tok/s
qwen/qwen3-coder-30bRoda bem≈ 190 tok/sRoda bem≈ 205 tok/s
qwen/qwen3.5-27bRoda bem≈ 38 tok/sRoda bem≈ 41 tok/s
qwen/qwen3.6-27bRoda bem≈ 38 tok/sRoda bem≈ 41 tok/s
qwen/qwen3.8-27bRoda bem≈ 38 tok/sRoda bem≈ 41 tok/s
google/gemma3-27bRoda bem≈ 38 tok/sRoda bem≈ 41 tok/s
google/gemma4-26b-a4bRoda bem≈ 152 tok/sRoda bem≈ 164 tok/s
mistral/mistral-small-3.2Roda bem≈ 42 tok/sRoda bem≈ 45 tok/s
mistral/devstral-small-2Roda bem≈ 42 tok/sRoda bem≈ 45 tok/s
mistral/magistral-smallRoda bem≈ 44 tok/sRoda bem≈ 48 tok/s
openai/gpt-oss-20bRoda bem≈ 161 tok/sRoda bem≈ 173 tok/s
qwen/qwen2.5-14bRoda bem≈ 71 tok/sRoda bem≈ 76 tok/s
qwen/qwen2.5-coder-14bRoda bem≈ 71 tok/sRoda bem≈ 76 tok/s
qwen/qwen3-14bRoda bem≈ 69 tok/sRoda bem≈ 74 tok/s
deepseek/deepseek-r1-14bRoda bem≈ 71 tok/sRoda bem≈ 76 tok/s
microsoft/phi4-14bRoda bem≈ 70 tok/sRoda bem≈ 76 tok/s
microsoft/phi4-reasoningRoda bem≈ 57 tok/sRoda bem≈ 62 tok/s
mistral/ministral-3-14bRoda bem≈ 70 tok/sRoda bem≈ 75 tok/s
google/gemma3-12bRoda bem≈ 87 tok/sRoda bem≈ 94 tok/s
mistral/mistral-nemo-12bRoda bem≈ 83 tok/sRoda bem≈ 89 tok/s
google/gemma4-12bRoda bem≈ 86 tok/sRoda bem≈ 93 tok/s
qwen/qwen3.5-9bRoda bem≈ 113 tok/sRoda bem≈ 122 tok/s
mistral/ministral-3-8bRoda bem≈ 106 tok/sRoda bem≈ 114 tok/s
qwen/qwen3-8bRoda bem≈ 122 tok/sRoda bem≈ 131 tok/s
deepseek/deepseek-r1-8bRoda bem≈ 122 tok/sRoda bem≈ 131 tok/s
meta/llama-3.1-8bRoda bem≈ 129 tok/sRoda bem≈ 139 tok/s
google/gemma4-e4bRoda bem≈ 116 tok/sRoda bem≈ 125 tok/s
qwen/qwen2.5-7bRoda bem≈ 136 tok/sRoda bem≈ 146 tok/s
qwen/qwen2.5-coder-7bRoda bem≈ 136 tok/sRoda bem≈ 146 tok/s
qwen/qwen3.5-4bRoda bem≈ 240 tok/sRoda bem≈ 259 tok/s
google/gemma3-4bRoda bem≈ 255 tok/sRoda bem≈ 274 tok/s
ceia-ufg/gaia-pt-br-4bRoda bem≈ 256 tok/sRoda bem≈ 275 tok/s
qwen/qwen3-4bRoda bem≈ 255 tok/sRoda bem≈ 274 tok/s
microsoft/phi4-miniRoda bem≈ 255 tok/sRoda bem≈ 275 tok/s
meta/llama-3.2-3bRoda bem≈ 315 tok/sRoda bem≈ 339 tok/s

Outros comparativos