Sobre o Roda Local

Como a conta funciona

Um modelo rodando no Ollama ocupa memória com quatro coisas:

• Pesos: usamos o tamanho real do arquivo que o Ollama baixa e ajustamos pela quantização escolhida (Q4_K_M, Q5_K_M, Q8_0 ou FP16).
• Contexto (KV cache): cresce com o tamanho da conversa. Calculamos camada por camada, porque muitos modelos de 2025 e 2026 só guardam o contexto inteiro em parte das camadas.
• Visão: modelos que entendem imagens carregam um projetor junto.
• Runtime: buffers de execução do llama.cpp.

Comparamos o total com a memória útil: a VRAM menos cerca de 1 GB para o sistema e o monitor, ou 75% da memória do Mac. Até 90% da memória útil o modelo roda bem; acima disso fica apertado.

A velocidade sai da banda de memória: para gerar cada token, o computador lê os pesos ativos uma vez. Ajustamos pela eficiência medida em benchmarks públicos do llama.cpp. É uma estimativa do começo da conversa; com o contexto cheio, fica mais lento.

De onde vêm os dados

• Arquitetura e parâmetros dos 44 modelos: config.json oficial de cada um no Hugging Face.
• Tamanho dos pesos e tags: registro do Ollama.
• VRAM e banda das 28 placas e dos chips da Apple: especificações dos fabricantes.
• A fórmula de memória e parte das especificações seguem o fitllm-engine, de licença MIT.

Links de lojas e afiliados

As páginas de placas de vídeo têm links para KaBuM!, Pichau, Terabyte, Amazon e Mercado Livre. Alguns podem ser links de afiliado: se você comprar por eles, o Roda Local pode receber uma comissão, sem custo extra para você. Isso não muda as contas nem a ordem das placas.

Os preços em reais vêm das páginas públicas de produto do KaBuM! e da Pichau, lidas poucas vezes por dia, respeitando as regras de robôs de cada loja.

Limites

São estimativas para o Ollama no padrão (KV cache em F16, tudo na GPU). Drivers, outros programas abertos e versões diferentes do llama.cpp mudam o resultado em algumas centenas de MB. Na dúvida, escolha um modelo da lista "Rodam bem".

Voltar para a calculadora