Ollama jako agent kodowania AI

Uruchom Ollamę, pobierz model obsługujący wywoływanie narzędzi i wpisz oharness -m ollama/<model>. Dostawca ollama jest wbudowany pod adresem localhost:11434 bez klucza, a OHarness wykrywa każdy pobrany model.

Trzy polecenia

npm install -g oharness
ollama pull qwen3-coder:30b
oharness -m ollama/qwen3-coder:30b

Najpierw zwiększ okno kontekstu

W tę pułapkę wpada większość osób. Jeśli nie ustawisz inaczej, Ollama serwuje kontekst dużo krótszy, niż obsługuje większość modeli, a agent szybko zapełnia go zawartością plików i wynikami narzędzi. Gdy serwer nie zgłasza swojego okna, OHarness przyjmuje 128K, więc serwer przycina rozmowę, zanim harness ją skompaktuje. Uruchom Ollamę z prawdziwym oknem:

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

Który model

Taki, który obsługuje wywoływanie narzędzi, z 20–30 mld parametrów lub więcej do prawdziwej pracy agenta — modele dostrojone do kodu, jak Qwen3-Coder, albo ogólne, jak gpt-oss. Mniejsze modele dobrze odpowiadają na pytania, ale gubią się w wieloetapowych edycjach. Wszystko, co pobrałeś, pojawia się w /models.

Warto wiedzieć

  • Ollama na innym komputerze: nadpisz baseUrl dostawcy w ~/.oharness/config.json (format poniżej).
  • Modele lokalne i hostowane działają w jednej sesji: czytaj z Ollamą, a na trudny krok przełącz się przez /model na model hostowany.
  • Praca w pełni offline wymienia niewielki ruch sieciowy, który pozostaje, i sposób na jego wyłączenie.

Częste pytania

Czy mogę używać Ollamy z agentem kodowania takim jak Claude Code?

Tak. OHarness ma Ollamę jako wbudowanego dostawcę: uruchom Ollamę, pobierz model z wywoływaniem narzędzi i wpisz oharness -m ollama/<model>. Nie potrzeba klucza ani pliku konfiguracyjnego.

Dlaczego mój agent kodowania na Ollamie zapomina, co robił wcześniej?

Domyślne okno kontekstu Ollamy jest dużo mniejsze niż okno modelu. Ustaw OLLAMA_CONTEXT_LENGTH (lub num_ctx) na 32K lub więcej, aby o tym, co zostanie streszczone, decydowało kompaktowanie agenta, a nie przycinanie po stronie serwera.

Które modele Ollamy obsługują wywoływanie narzędzi?

Ollama oznacza modele obsługujące narzędzia tagiem tools w swojej bibliotece. Qwen3-Coder i gpt-oss to częsty wybór dla agentów kodowania.

Ollama — dane techniczne

Id dostawcyollama
Bazowy URLhttp://localhost:11434/v1
ProtokółChat completions zgodne z OpenAI
Klucz APIBrak — endpoint jest lokalny.
Wykrywanie modeliTak — lista modeli jest pobierana z endpointu, a nie dołączana do harnessu.

Podłączanie

Nic do konfigurowania i żadnego klucza do zdobycia. Uruchom serwer na jego zwykłym porcie, a dostawca pojawi się w wyborze modelu; harness sam pyta go o listę modeli, zamiast dostarczać własną.

Wskazanie innego adresu

Host regionalny, bramka albo twój własny serwer. Nadpisania w ~/.oharness/config.json działają na poziomie pól, więc zmiana endpointu nie oznacza powtarzania reszty definicji dostawcy — oto cały blok, z wartością domyślną, aby było widać jego kształt:

{
  "providers": {
    "ollama": {
      "baseUrl": "http://localhost:11434/v1"
    }
  }
}

Co dostajesz w każdym przypadku

Tę samą pętlę agenta, te same narzędzia, te same serwery MCP i te same reguły uprawnień, niezależnie od dostawcy pod spodem — a przełączanie między nimi w trakcie sesji niczego nie konwertuje, bo historia nigdy nie jest zapisywana w formacie konkretnego dostawcy. Czym jest harness agenta wyjaśnia, dlaczego to najtrudniejsza część, a dokumentacja dostawców opisuje sam katalog.

Wszyscy dostawcy (34) · Zainstaluj OHarness