Como rodar IA localmente no seu computador com Ollama, LM Studio ou Jan

Passo a passo

1. Descubra quanta memória seu computador tem

   Dois números decidem o que você consegue rodar:

   • RAM: a memória geral do computador.
   • VRAM: a memória da placa de vídeo, também chamada de GPU. É nela que o modelo roda mais rápido.

   Nos Macs com memória unificada, a RAM e a memória de vídeo são a mesma. Anote os dois valores antes de escolher qualquer coisa.

   Uma regra geral publicada pelo Engadget em novembro de 2026:

   • cerca de 8 GB de RAM para um modelo de 7B (7 bilhões de parâmetros, os números internos do modelo);
   • 16 GB para um de 13B;
   • 32 GB para um de 33B.

   Para modelos mais exigentes, a mesma fonte recomenda pelo menos 32 GB de memória do sistema e uma GPU com 16 GB ou mais de VRAM. São aproximações, não regras fixas.

2. Escolha a ferramenta: Ollama, LM Studio ou Jan

   As três baixam e rodam modelos no seu computador. O que muda é o jeito de usar.

   • LM Studio: tem interface gráfica e um catálogo de modelos. É o caminho mais simples para quem está começando no Windows. A documentação oficial recomenda uma GPU com pelo menos 4 GB de VRAM dedicada.
   • Jan: também é um aplicativo de desktop. Uma comparação de terceiros atualizada em novembro de 2026 aponta 6 GB de VRAM como mínimo para usar a GPU.
   • Ollama: funciona pelo terminal. Serve bem para scripts, servidores locais e integração com outros programas. A documentação oficial informa suporte a GPUs NVIDIA com Compute Capability 5.0 ou superior e driver 550 ou posterior.

   Atenção: esses mínimos são só para o aplicativo abrir e usar a GPU. Eles não garantem que um modelo grande vai rodar bem. Verificado em nov/2026.

3. Escolha um modelo que caiba na sua memória

   Comece pelo melhor modelo que sua máquina roda com folga, não pelo maior. Faixas práticas, verificadas em nov/2026:

   VRAM	O que costuma caber
   4 GB	Modelos pequenos, com quantização forte. É o mínimo do LM Studio.
   8 GB	Modelos de cerca de 3B a 9B. Uma medição cita um 9B usando cerca de 6,6 GB.
   12–16 GB	Modelos de 9B a 14B e alguns de 20B a 30B quantizados. O Gemma 4 12B quantizado ocupa cerca de 7,6 GB.
   24 GB	Modelos de até cerca de 32B quantizados.
   48 GB	Um 70B quantizado, com menos dependência da RAM. Também é possível com duas GPUs de 24 GB.

   As faixas vêm do guia de hardware do ComputingForGeeks, de novembro de 2026. São medições independentes, não especificações oficiais.

   Duas famílias atuais para começar:

   • Gemma 4 (Google): existe em E2B, E4B, 12B, 26B-A4B e 31B. Um índice de modelos associa a família a 16 GB ou mais de memória.
   • Qwen3.8 27B (Alibaba): o mesmo índice recomenda cerca de 32 GB ou mais de memória.

   No Ollama e no LM Studio, confira na página do modelo o tamanho real do arquivo antes de baixar.

4. Prefira uma versão quantizada

   Quantização é uma forma de comprimir o modelo para ele ocupar menos memória. Os formatos aparecem com nomes como Q4, Q5, Q6 e Q8. Quanto menor o número, menor o arquivo e maior a perda de qualidade.

   Um guia publicado no blog da Hugging Face indica o Q4 como o melhor ponto de partida para a maioria das pessoas. A qualidade pode cair um pouco, mas o modelo fica bem mais fácil de rodar.

   Um exemplo do efeito: com quantização Q4, um modelo de 70B ainda pede cerca de 40 GB só para os pesos, segundo o ComputingForGeeks.

5. Baixe o modelo e faça o primeiro teste

   • No LM Studio ou no Jan: procure o modelo no catálogo do aplicativo, baixe o arquivo e abra uma conversa.
   • No Ollama: escolha o modelo na biblioteca oficial e rode-o pelo terminal.

   Comece com perguntas curtas. Depois de baixado, o modelo roda no seu computador. Seus pedidos não vão para o servidor de uma empresa.

   Se as respostas saírem muito devagar, troque por um modelo menor ou por uma quantização mais leve.

6. Compare dois modelos com o mesmo pedido

   Nenhum modelo é o melhor para tudo. Escolha um pedido real seu, como o resumo de um documento, e envie o mesmo texto a dois modelos. Por exemplo, um Gemma 4 e um Qwen3.8 no mesmo aplicativo.

   Observe três coisas:

   • qual errou menos fatos;
   • qual foi mais rápido no seu computador;
   • qual escreveu melhor em português.

   Se quiser uma referência externa, rode o mesmo pedido num modelo na nuvem e compare. Lembre que a versão na nuvem não é privada como a local.

7. Ajuste o contexto e confira a memória

   Contexto é quanto texto o modelo considera de uma vez, medido em tokens (pedaços de palavras). Quanto maior o contexto, mais memória o modelo usa.

   Na medição do ComputingForGeeks, o Gemma 4 12B quantizado, com contexto de 32K, chegou a cerca de 97 tokens por segundo e coube numa GPU de 16 GB com folga.

   Sobre a RAM, a mesma fonte recomenda:

   • pelo menos o mesmo valor da VRAM, se o modelo roda todo na GPU;
   • cerca do dobro da VRAM, se parte do modelo vai para a CPU (o chamado offload).

   O offload é mais lento. Numa GPU de 24 GB, um modelo de 70B precisa jogar parte dos pesos para a RAM, e a velocidade cai bastante.

Por que rodar IA localmente em vez de usar a nuvem?

A principal vantagem é a privacidade. Seus textos ficam no seu computador.

Em um app na nuvem, cada pedido vai para o servidor da empresa. Rodando localmente, o modelo processa tudo na sua máquina e continua funcionando sem internet.

O custo é outro. Você precisa de memória suficiente e aceita um modelo menor do que os maiores modelos na nuvem. O guia publicado no blog da Hugging Face diz que modelos hospedados ainda podem ir melhor em raciocínio complexo e em tarefas com imagem. Não encontramos um teste atual, com data, que compare lado a lado os modelos locais e os da nuvem de nov/2026.

Ollama, LM Studio ou Jan: qual a diferença?

Comparação com os mesmos critérios, verificada em nov/2026:

As versões vêm de uma comparação independente, então confira no site de cada projeto antes de instalar. O mesmo vale para preço e licença.

Para o 🛠️ nível técnico: um preprint de 2026 no arXiv descreve o ecossistema de execução local (llama.cpp, Ollama, LM Studio). Segundo o texto, foi esse ecossistema que consolidou formatos de quantização como o GGUF.

Quanto custa rodar IA localmente comparado com a nuvem?

Rodar localmente não cobra por uso. O custo está no computador e na energia. Não encontramos fonte atual com preços de placas de vídeo ou de energia. Confira o preço em dólares nas lojas antes de comprar.

Na nuvem, as APIs (o acesso direto para programadores) cobram por milhão de tokens.

Alguns modelos de pesos abertos também são vendidos por API. Os preços são de US$ 0,15 de entrada e US$ 1,88 de saída no qwen3.8 27b, e de US$ 0,70 e US$ 2,10 no mistral large 4 0. Isso permite testar um modelo antes de investir em hardware para rodá-lo em casa.

O cálculo final depende de quanto você usa e do computador que já tem.

Quais modelos abertos não cabem num computador de casa?

Alguns modelos de pesos abertos (open weights: os arquivos do modelo são liberados, mas não necessariamente todo o código) são grandes demais para um PC doméstico. Exemplos atuais, segundo índices independentes de 2026 (llama.app e AI Digest):

• DeepSeek-V4: 304B parâmetros, com cerca de 192 GB ou mais de memória.
• DeepSeek-V4-Pro: 1,6 trilhão de parâmetros totais e 49 bilhões ativos.
• DeepSeek-V4.1-Flash: 552 bilhões de parâmetros totais, publicado em 10 de setembro de 2026.
• Mistral Large 4: cerca de 1 trilhão de parâmetros totais e cerca de 49 bilhões ativos. A prévia pública saiu em 6 de outubro de 2026.
• Qwen3.5-397B-A17B: 397 bilhões de parâmetros totais e 17 bilhões ativos, publicado em 16 de fevereiro de 2026.

Vários deles são MoE (mixture of experts). Nesse tipo de modelo, só uma parte dos parâmetros trabalha em cada resposta. Mesmo assim, o conjunto inteiro precisa ficar guardado na memória. Por isso esses modelos pedem várias GPUs ou servidores. Para quem quer usá-los, a API costuma ser o caminho prático.

Erros comuns

• Baixar o maior modelo primeiro. Um modelo menor e rápido costuma ser mais útil do que um gigante que trava.
• Achar que o mínimo do aplicativo vale para qualquer modelo. Os 4 GB do LM Studio ou os 6 GB do Jan não fazem um modelo de 27B ou 70B rodar bem.
• Confundir parâmetros ativos com tamanho total em modelos MoE. O Mistral Large 4 tem cerca de 49 bilhões de parâmetros ativos, mas o modelo inteiro tem cerca de 1 trilhão para guardar na memória.
• Usar contexto muito longo sem checar a memória. Contexto maior consome mais VRAM e deixa o modelo mais lento.
• Confiar em resposta sobre saúde, dinheiro ou lei sem conferir. Modelos locais também têm alucinações, isto é, respostas inventadas com confiança.
• Comprar uma placa de vídeo sem ver o tamanho real do modelo no catálogo da ferramenta. A quantização e o contexto mudam bastante o uso de memória.