Använd Ollama som kodagent

Starta Ollama, hämta en modell som klarar verktygsanrop och kör oharness -m ollama/<model>. Leverantören ollama är inbyggd på localhost:11434 utan nyckel, och OHarness hittar varje modell du har hämtat.

Tre kommandon

$npm install -g oharness

$ollama pull qwen3-coder:30b

$oharness -m ollama/qwen3-coder:30b

Öka kontextfönstret först

Det här är fällan de flesta går i. Om inget annat anges tillhandahåller Ollama en kontext som är mycket kortare än vad de flesta modeller stöder, och en agent fyller den snabbt med filinnehåll och verktygsresultat. När servern inte rapporterar sitt fönster antar OHarness 128K, så servern trunkerar innan harnessen komprimerar. Starta Ollama med ett riktigt fönster:

$OLLAMA_CONTEXT_LENGTH=32768 ollama serve

Vilken modell

En som stöder verktygsanrop, med 20–30B parametrar eller mer för riktigt agentarbete — kodtränade modeller som Qwen3-Coder, eller allmänna som gpt-oss. Mindre modeller svarar bra på frågor men tappar tråden i ändringar i flera steg. Allt du har hämtat syns under /models.

Bra att veta

Ollama på en annan dator: åsidosätt leverantörens baseUrl i ~/.oharness/config.json (formen nedan).
Lokala och hostade modeller delar session: läs med Ollama och använd sedan /model för att byta till en hostad modell inför ett svårt steg.
Köra helt offline listar den lilla nätverkstrafik som återstår och hur du stänger av den.

Vanliga frågor

Kan jag använda Ollama med en kodagent som Claude Code?

Ja. OHarness har Ollama som inbyggd leverantör: starta Ollama, hämta en modell med verktygsanrop och kör oharness -m ollama/<model>. Ingen nyckel eller konfigurationsfil behövs.

Varför glömmer min Ollama-kodagent vad den gjorde tidigare?

Ollamas standardfönster för kontext är mycket mindre än modellens. Sätt OLLAMA_CONTEXT_LENGTH (eller num_ctx) till 32K eller mer, så att det är agentens komprimering och inte serverns trunkering som avgör vad som sammanfattas.

Vilka Ollama-modeller stöder verktygsanrop?

Ollama märker modeller som kan använda verktyg med taggen tools i sitt bibliotek. Qwen3-Coder och gpt-oss är vanliga val för kodagenter.

Referens för Ollama

Leverantörs-id	`ollama`
Bas-URL	`http://localhost:11434/v1`
Protokoll	OpenAI-kompatibla chat completions
API-nyckel	Ingen — endpointen är lokal.
Modellupptäckt	Ja — modellistan efterfrågas hos endpointen i stället för att skickas med.

Ansluta den

Inget att konfigurera och ingen nyckel att skaffa. Starta servern på dess vanliga port så dyker leverantören upp i modellväljaren; harnessen frågar den efter dess egen modellista i stället för att skicka med en.

Peka den någon annanstans

En regional värd, en gateway eller en egen server. Åsidosättningar i ~/.oharness/config.json gäller per fält, så att ändra endpointen betyder inte att du måste ange resten av leverantören igen — det här är hela blocket, visat med standardvärdet så att formen blir tydlig:

{
  "providers": {
    "ollama": {
      "baseUrl": "http://localhost:11434/v1"
    }
  }
}

Det du får oavsett

Samma agentloop, samma verktyg, samma MCP-servrar och samma behörighetsregler, vilken leverantör som än ligger under — och att byta mellan dem mitt i en session konverterar ingenting, eftersom historiken aldrig sparas i en leverantörs format. Vad en agent-harness är förklarar varför det är den svåra delen, och referensen för leverantörer går igenom själva katalogen.

Alla 34 leverantörer · Installera OHarness