Utiliser Ollama comme agent de code

Démarrez Ollama, téléchargez un modèle capable d'appeler des outils et lancez oharness -m ollama/<model>. Le fournisseur ollama est intégré sur localhost:11434, sans clé, et OHarness découvre tous les modèles que vous avez téléchargés.

Trois commandes

npm install -g oharness
ollama pull qwen3-coder:30b
oharness -m ollama/qwen3-coder:30b

Augmentez d'abord la fenêtre de contexte

C'est le piège dans lequel tombent la plupart des gens. Sauf indication contraire, Ollama sert un contexte bien plus court que ce que la plupart des modèles prennent en charge, et un agent le remplit vite avec le contenu des fichiers et les résultats d'outils. Quand le serveur n'indique pas sa fenêtre, OHarness suppose 128K : le serveur tronque donc avant que le harnais ne compacte. Démarrez Ollama avec une vraie fenêtre :

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

Quel modèle

Un modèle qui prend en charge l'appel d'outils, de 20 à 30 milliards de paramètres ou plus pour un vrai travail d'agent — des modèles spécialisés dans le code comme Qwen3-Coder, ou généralistes comme gpt-oss. Les modèles plus petits répondent bien aux questions mais perdent le fil des modifications en plusieurs étapes. Tout ce que vous avez téléchargé apparaît dans /models.

Bon à savoir

  • Ollama sur une autre machine : surchargez le baseUrl du fournisseur dans ~/.oharness/config.json (structure ci-dessous).
  • Modèles locaux et hébergés partagent une même session : lisez avec Ollama, puis /model vers un modèle hébergé pour une étape difficile.
  • Travailler entièrement hors ligne liste le peu de trafic réseau qui subsiste et comment le couper.

Questions fréquentes

Puis-je utiliser Ollama avec un agent de code comme Claude Code ?

Oui. OHarness intègre Ollama comme fournisseur : démarrez Ollama, téléchargez un modèle capable d'appeler des outils et lancez oharness -m ollama/<model>. Aucune clé ni fichier de configuration n'est nécessaire.

Pourquoi mon agent de code Ollama oublie-t-il ce qu'il a fait plus tôt ?

La fenêtre de contexte par défaut d'Ollama est bien plus petite que celle du modèle. Réglez OLLAMA_CONTEXT_LENGTH (ou num_ctx) sur 32K ou plus, pour que ce soit la compaction de l'agent, et non la troncature du serveur, qui décide de ce qui est résumé.

Quels modèles Ollama prennent en charge l'appel d'outils ?

Ollama signale les modèles compatibles avec une étiquette tools dans sa bibliothèque. Qwen3-Coder et gpt-oss sont des choix courants pour les agents de code.

Référence Ollama

Identifiant du fournisseurollama
URL de basehttp://localhost:11434/v1
ProtocoleChat completions compatible OpenAI
Clé APIAucune — l'endpoint est local.
Découverte des modèlesOui — la liste des modèles est demandée à l'endpoint plutôt que livrée avec le harnais.

Le connecter

Rien à configurer, aucune clé à obtenir. Démarrez le serveur sur son port habituel et le fournisseur apparaît dans le sélecteur de modèles ; le harnais lui demande sa propre liste de modèles au lieu d'en livrer une.

Le pointer ailleurs

Un hôte régional, une passerelle ou votre propre serveur. Les surcharges dans ~/.oharness/config.json s'appliquent champ par champ : changer d'endpoint n'oblige pas à redéclarer le reste du fournisseur. Voici le bloc complet, avec la valeur par défaut pour que la structure soit claire :

{
  "providers": {
    "ollama": {
      "baseUrl": "http://localhost:11434/v1"
    }
  }
}

Ce que vous obtenez dans tous les cas

La même boucle d'agent, les mêmes outils, les mêmes serveurs MCP et les mêmes règles de permission, quel que soit le fournisseur sous-jacent — et passer de l'un à l'autre en cours de session ne convertit rien, car l'historique n'est jamais stocké au format d'un fournisseur. Ce qu'est un harnais d'agent explique pourquoi c'est la partie difficile, et la référence des fournisseurs décrit le catalogue lui-même.

Les 34 fournisseurs · Installer OHarness