RTX 3090 vs RTX 4090 para IA local
Com a mesma VRAM, a RTX 4090 leva vantagem na velocidade; vale se a diferença de preço for pequena.
RTX 3090
- VRAM
- 24 GB
- Banda
- 936 GB/s
- Modelos que cabem
- 40 de 44
- Lançamento
- 2020
Fora de linha no KaBuM! Sem preço acompanhado.
RTX 4090
- VRAM
- 24 GB
- Banda
- 1.008 GB/s
- Modelos que cabem
- 40 de 44
- Lançamento
- 2022
Fora de linha no KaBuM! Sem preço acompanhado.
Veredito
- As duas têm 24 GB de VRAM, então cabem os mesmos 40 modelos.
- Nos modelos que rodam nas duas, a RTX 4090 gera cerca de 8% mais tokens por segundo (banda de 1.008 contra 936 GB/s).
Com a mesma VRAM, a RTX 4090 leva vantagem na velocidade; vale se a diferença de preço for pequena.
Modelo a modelo
Com Q4_K_M e 8K de contexto. Só aparecem os 40 modelos que cabem em pelo menos uma das duas.
| Modelo | RTX 3090 | RTX 4090 |
|---|---|---|
| Apertado≈ 217 tok/s | Apertado≈ 233 tok/s | |
| Apertado≈ 32 tok/s | Apertado≈ 34 tok/s | |
| Apertado≈ 32 tok/s | Apertado≈ 35 tok/s | |
| Apertado≈ 34 tok/s | Apertado≈ 37 tok/s | |
| Roda bem≈ 209 tok/s | Roda bem≈ 225 tok/s | |
| Roda bem≈ 190 tok/s | Roda bem≈ 205 tok/s | |
| Roda bem≈ 190 tok/s | Roda bem≈ 205 tok/s | |
| Roda bem≈ 38 tok/s | Roda bem≈ 41 tok/s | |
| Roda bem≈ 38 tok/s | Roda bem≈ 41 tok/s | |
| Roda bem≈ 38 tok/s | Roda bem≈ 41 tok/s | |
| Roda bem≈ 38 tok/s | Roda bem≈ 41 tok/s | |
| Roda bem≈ 152 tok/s | Roda bem≈ 164 tok/s | |
| Roda bem≈ 42 tok/s | Roda bem≈ 45 tok/s | |
| Roda bem≈ 42 tok/s | Roda bem≈ 45 tok/s | |
| Roda bem≈ 44 tok/s | Roda bem≈ 48 tok/s | |
| Roda bem≈ 161 tok/s | Roda bem≈ 173 tok/s | |
| Roda bem≈ 71 tok/s | Roda bem≈ 76 tok/s | |
| Roda bem≈ 71 tok/s | Roda bem≈ 76 tok/s | |
| Roda bem≈ 69 tok/s | Roda bem≈ 74 tok/s | |
| Roda bem≈ 71 tok/s | Roda bem≈ 76 tok/s | |
| Roda bem≈ 70 tok/s | Roda bem≈ 76 tok/s | |
| Roda bem≈ 57 tok/s | Roda bem≈ 62 tok/s | |
| Roda bem≈ 70 tok/s | Roda bem≈ 75 tok/s | |
| Roda bem≈ 87 tok/s | Roda bem≈ 94 tok/s | |
| Roda bem≈ 83 tok/s | Roda bem≈ 89 tok/s | |
| Roda bem≈ 86 tok/s | Roda bem≈ 93 tok/s | |
| Roda bem≈ 113 tok/s | Roda bem≈ 122 tok/s | |
| Roda bem≈ 106 tok/s | Roda bem≈ 114 tok/s | |
| Roda bem≈ 122 tok/s | Roda bem≈ 131 tok/s | |
| Roda bem≈ 122 tok/s | Roda bem≈ 131 tok/s | |
| Roda bem≈ 129 tok/s | Roda bem≈ 139 tok/s | |
| Roda bem≈ 116 tok/s | Roda bem≈ 125 tok/s | |
| Roda bem≈ 136 tok/s | Roda bem≈ 146 tok/s | |
| Roda bem≈ 136 tok/s | Roda bem≈ 146 tok/s | |
| Roda bem≈ 240 tok/s | Roda bem≈ 259 tok/s | |
| Roda bem≈ 255 tok/s | Roda bem≈ 274 tok/s | |
| Roda bem≈ 256 tok/s | Roda bem≈ 275 tok/s | |
| Roda bem≈ 255 tok/s | Roda bem≈ 274 tok/s | |
| Roda bem≈ 255 tok/s | Roda bem≈ 275 tok/s | |
| Roda bem≈ 315 tok/s | Roda bem≈ 339 tok/s |
Outros comparativos
RTX 4060 vs RTX 3060 12 GBRTX 3060 12 GB vs RTX 5060 Ti 16 GBRTX 5060 Ti 16 GB vs RTX 4060 Ti 16 GBRTX 4060 Ti 16 GB vs RTX 4070 SuperRTX 5070 vs RTX 5060 Ti 16 GBRTX 5060 Ti 16 GB vs Radeon RX 9060 XT 16 GBRadeon RX 7600 vs RTX 4060Arc B580 vs RTX 4060Radeon RX 9070 XT vs RTX 5070 TiRadeon RX 9070 XT vs RTX 5070RTX 5080 vs RTX 4090Radeon RX 7900 XTX vs RTX 4090RTX 5090 vs RTX 4090