Rode um agente de programação com IA 100% offline com Ollama ou LM Studio

Instale o OHarness, inicie o Ollama (porta 11434) ou o servidor do LM Studio (porta 1234) e rode oharness -m ollama/<model>. Os dois runtimes são provedores integrados que não precisam de chave, então toda requisição ao modelo fica na sua máquina.

Atualizado em

O que você precisa

  • Node 22.6 ou mais recente, para a CLI.
  • Ollama ou LM Studio, com um modelo que suporte chamadas de ferramentas. Um agente que não consegue chamar ferramentas só consegue falar sobre o seu código.
  • Memória suficiente para o modelo. Um modelo de programação de 20–30B é o mínimo prático para trabalho de agente; modelos menores respondem, mas se perdem em edições de várias etapas.

Configure com o Ollama

  1. Instale a CLI.
  2. Baixe um modelo que chame ferramentas, por exemplo qwen3-coder:30b ou gpt-oss:20b.
  3. Inicie o agente com ele. A parte antes da primeira barra é o provedor; o resto é o nome do modelo exatamente como o Ollama o lista.
npm install -g oharness
ollama pull qwen3-coder:30b
oharness -m ollama/qwen3-coder:30b

Não há chave nem nada para configurar: o provedor ollama aponta para http://localhost:11434/v1 e pede ao servidor a lista de modelos, então tudo o que você baixou aparece em /models.

Configure com o LM Studio

Carregue um modelo no LM Studio e inicie o servidor local (a aba Developer, ou lms server start). Os ids de modelo do LM Studio têm uma barra própria, e tudo bem — só a primeira barra separa o provedor:

oharness -m lmstudio/qwen/qwen3-coder-30b

Dê contexto suficiente ao modelo

Sessões de agente são longas: cada arquivo lido e cada resultado de ferramenta volta para o contexto. O Ollama serve um contexto bem menor do que a maioria dos modelos suporta, a menos que você o aumente, e quando um servidor local não informa sua janela o OHarness assume 128K — então a compactação dispara depois do ponto em que o servidor de fato trunca. Aumente a janela do servidor antes de uma sessão longa:

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

No LM Studio, a mesma configuração é o controle deslizante de tamanho do contexto ao carregar o modelo. 32K é um mínimo viável para trabalho de agente; mais é melhor, se a memória permitir.

O que ainda usa a rede

TráfegoQuandoComo desligar
Requisições ao modeloNunca — elas vão para localhost—
Verificação de atualizaçõesNo máximo uma vez por dia, para o registro do npmOHARNESS_NO_UPDATE_CHECK=1
Sincronização de sessõesSó quando você está conectado a uma conta OHarnessNão entre na conta, ou use /sync off
Servidores MCPSó os que você configurarUse servidores stdio, ou nenhum

Quando um modelo local é a escolha errada

Modelos locais são grátis por token e privados, mas ficam atrás dos melhores modelos hospedados em mudanças longas em vários arquivos. Uma divisão razoável: local para explorar, ler e fazer pequenas edições; um modelo hospedado para a grande refatoração — trocado na mesma sessão com /model, que não converte nada. Trocar de modelo no meio da sessão mostra como.

Perguntas frequentes

Um agente de programação com IA pode rodar totalmente offline?

Sim. Com o OHarness apontado para o Ollama ou o LM Studio, o loop do agente, as ferramentas e o modelo rodam todos na sua máquina. O único outro tráfego é uma verificação de atualizações do npm uma vez por dia, que OHARNESS_NO_UPDATE_CHECK=1 desliga, e a sincronização, que só roda quando você entra na sua conta.

Quais modelos locais funcionam para um agente de programação?

Modelos que suportam chamadas de ferramentas, de preferência com 20–30B de parâmetros ou mais. Modelos ajustados para programação, como o Qwen3-Coder, e modelos gerais, como o gpt-oss, funcionam; modelos sem chamadas de ferramentas respondem perguntas, mas não editam arquivos nem executam comandos.

Preciso de uma chave de API para usar o OHarness com o Ollama?

Não. Os provedores ollama e lmstudio não precisam de chave e são integrados, apontando para localhost:11434 e localhost:1234. Inicie o servidor e rode oharness -m ollama/<model>.

Por que uma sessão longa com um modelo local esquece o trabalho anterior?

Normalmente porque a janela de contexto do servidor é menor que a do modelo. O Ollama serve uma janela curta por padrão; aumente-a com OLLAMA_CONTEXT_LENGTH (ou num_ctx), e a compactação do OHarness vai resumir em um ponto seguro, em vez de o servidor truncar sem avisar.

Relacionados