Un agente di codice IA del tutto offline con Ollama o LM Studio
Installa OHarness, avvia Ollama (porta 11434) o il server di LM Studio (porta 1234) ed esegui oharness -m ollama/<model>. Entrambi i runtime sono provider integrati che non richiedono una chiave, quindi ogni richiesta al modello resta sulla tua macchina.
Aggiornato il
Cosa ti serve
- Node 22.6 o successivo, per la CLI.
- Ollama o LM Studio, con un modello che supporti la chiamata di strumenti. Un agente che non può chiamare strumenti può solo parlare del tuo codice.
- Memoria sufficiente per il modello. Un modello di codice da 20–30B è il minimo pratico per il lavoro di un agente; i modelli più piccoli rispondono, ma perdono il filo nelle modifiche in più passaggi.
Configurazione con Ollama
- Installa la CLI.
- Scarica un modello che chiami strumenti, per esempio
qwen3-coder:30bogpt-oss:20b. - Avvia l'agente su quel modello. La parte prima della prima barra è il provider, il resto è il nome del modello esattamente come lo elenca Ollama.
npm install -g oharnessollama pull qwen3-coder:30boharness -m ollama/qwen3-coder:30bNon c'è chiave e non c'è nulla da configurare: il provider ollama punta a http://localhost:11434/v1 e chiede al server l'elenco dei modelli, quindi tutto ciò che hai scaricato compare in /models.
Configurazione con LM Studio
Carica un modello in LM Studio e avvia il suo server locale (la scheda Developer, oppure lms server start). Gli id dei modelli di LM Studio contengono già una barra, e va bene così: solo la prima barra separa il provider:
oharness -m lmstudio/qwen/qwen3-coder-30bDai al modello abbastanza contesto
Le sessioni di un agente sono lunghe: ogni file letto e ogni risultato degli strumenti torna nel contesto. Ollama serve un contesto molto più corto di quello supportato dalla maggior parte dei modelli, a meno che tu non lo aumenti, e quando un server locale non dichiara la sua finestra OHarness assume 128K: così la compattazione scatta più tardi del momento in cui il server tronca davvero. Aumenta la finestra del server prima di una sessione lunga:
OLLAMA_CONTEXT_LENGTH=32768 ollama serveIn LM Studio la stessa impostazione è il cursore della lunghezza del contesto quando il modello è caricato. 32K è un minimo praticabile per il lavoro di un agente; di più è meglio, se la memoria lo consente.
Cosa usa ancora la rete
| Traffico | Quando | Come disattivarlo |
|---|---|---|
| Richieste al modello | Mai: vanno a localhost | — |
| Controllo degli aggiornamenti | Al massimo una volta al giorno, verso il registro npm | OHARNESS_NO_UPDATE_CHECK=1 |
| Sincronizzazione delle sessioni | Solo con l'accesso a un account OHarness | Non accedere, oppure /sync off |
| Server MCP | Solo quelli che configuri | Usa server stdio, o nessuno |
Quando un modello locale è la scelta sbagliata
I modelli locali sono gratuiti a token e privati, ma restano indietro rispetto ai migliori modelli ospitati nelle modifiche lunghe su più file. Una divisione ragionevole: in locale per esplorare, leggere e fare piccole modifiche; un modello ospitato per il grande refactoring, attivato nella stessa sessione con /model, che non converte nulla. Cambiare modello a metà sessione spiega come.
Domande frequenti
Un agente di codice IA può funzionare completamente offline?
Sì. Con OHarness collegato a Ollama o LM Studio, il ciclo dell'agente, gli strumenti e il modello girano tutti sulla tua macchina. L'unico altro traffico è un controllo giornaliero degli aggiornamenti su npm, che OHARNESS_NO_UPDATE_CHECK=1 disattiva, e la sincronizzazione, che funziona solo quando accedi.
Quali modelli locali funzionano per un agente di codice?
Modelli che supportano la chiamata di strumenti, idealmente da 20–30B parametri o più. Funzionano sia modelli specializzati per il codice come Qwen3-Coder sia modelli generici come gpt-oss; i modelli senza chiamata di strumenti possono rispondere alle domande ma non modificare file né eseguire comandi.
Mi serve una chiave API per usare OHarness con Ollama?
No. I provider ollama e lmstudio non richiedono una chiave e sono integrati, puntano a localhost:11434 e localhost:1234. Avvia il server ed esegui oharness -m ollama/<model>.
Perché una sessione lunga con un modello locale dimentica il lavoro precedente?
Di solito la finestra di contesto del server è più piccola di quella del modello. Ollama serve una finestra corta per impostazione predefinita; aumentala con OLLAMA_CONTEXT_LENGTH (o num_ctx), e la compattazione di OHarness riassumerà in un punto sicuro invece di lasciare che il server tronchi in silenzio.