Ollama gebruiken als AI-coding-agent

Start Ollama, pull een model dat tools aanroept en voer oharness -m ollama/<model> uit. De aanbieder ollama is ingebouwd op localhost:11434, zonder sleutel, en OHarness ontdekt elk model dat je hebt gepulld.

Drie commando's

$npm install -g oharness

$ollama pull qwen3-coder:30b

$oharness -m ollama/qwen3-coder:30b

Vergroot eerst het contextvenster

Hier lopen de meeste mensen tegenaan. Tenzij je het anders aangeeft, levert Ollama een veel kortere context dan de meeste modellen aankunnen, en een agent vult die snel met bestandsinhoud en tool-resultaten. Als de server zijn venster niet doorgeeft, gaat OHarness uit van 128K, dus kapt de server af voordat het harness compacteert. Start Ollama met een echt venster:

$OLLAMA_CONTEXT_LENGTH=32768 ollama serve

Welk model?

Een model dat tool-aanroepen ondersteunt, met 20–30B parameters of meer voor echt agentwerk — op code getrainde modellen zoals Qwen3-Coder, of algemene zoals gpt-oss. Kleinere modellen beantwoorden vragen goed, maar raken het spoor bijster bij wijzigingen in meerdere stappen. Alles wat je hebt gepulld, verschijnt onder /models.

Goed om te weten

Ollama op een andere machine: overschrijf de baseUrl van de aanbieder in ~/.oharness/config.json (vorm hieronder).
Lokale en gehoste modellen delen een sessie: lees met Ollama en schakel dan met /model naar een gehost model voor een lastige stap.
Volledig offline werken noemt het beetje netwerkverkeer dat overblijft en hoe je dat uitzet.

Veelgestelde vragen

Kan ik Ollama gebruiken met een AI-coding-agent zoals Claude Code?

Ja. OHarness heeft Ollama als ingebouwde aanbieder: start Ollama, pull een model dat tools kan aanroepen en voer oharness -m ollama/<model> uit. Er is geen sleutel of configuratiebestand nodig.

Waarom vergeet mijn Ollama-agent wat hij eerder deed?

Het standaardcontextvenster van Ollama is veel kleiner dan dat van het model. Stel OLLAMA_CONTEXT_LENGTH (of num_ctx) in op 32K of meer, zodat de compactie van de agent bepaalt wat wordt samengevat, en niet het afkappen door de server.

Welke Ollama-modellen ondersteunen tool-aanroepen?

Ollama markeert modellen die tools kunnen gebruiken met een tools-tag in zijn bibliotheek. Qwen3-Coder en gpt-oss zijn gangbare keuzes voor AI-coding-agents.

Referentie voor Ollama

Aanbieder-id	`ollama`
Basis-URL	`http://localhost:11434/v1`
Protocol	OpenAI-compatibele chat completions
API-sleutel	Geen — het endpoint is lokaal.
Modeldetectie	Ja — de modellijst wordt bij het endpoint opgevraagd in plaats van meegeleverd.

Verbinden

Niets in te stellen en geen sleutel nodig. Start de server op zijn gebruikelijke poort en de aanbieder verschijnt in de modelkiezer; het harness vraagt hem om zijn eigen modellijst in plaats van er een mee te leveren.

Ergens anders naartoe laten wijzen

Een regionale host, een gateway of een eigen server. Overrides in ~/.oharness/config.json werken per veld, dus het endpoint wijzigen betekent niet dat je de rest van de aanbieder opnieuw moet opgeven — dit is het volledige blok, met de standaardwaarde ingevuld zodat de vorm duidelijk is:

{
  "providers": {
    "ollama": {
      "baseUrl": "http://localhost:11434/v1"
    }
  }
}

Wat je hoe dan ook krijgt

Dezelfde agent-lus, dezelfde tools, dezelfde MCP-servers en dezelfde permissieregels, welke aanbieder er ook onder zit — en midden in een sessie tussen ze wisselen zet niets om, omdat de geschiedenis nooit in de vorm van een leverancier wordt opgeslagen. Wat een agent-harness is legt uit waarom dat het lastige deel is, en de referentie voor aanbieders behandelt de catalogus zelf.

Alle 34 aanbieders · OHarness installeren