vLLM: konfiguracja lokalnego endpointu

Twój własny serwer vLLM. Działa na twoim komputerze, więc nie ma klucza i niczego się nie płaci.

Co harness już wie

Id dostawcyvllm
Bazowy URLhttp://localhost:8000/v1
ProtokółChat completions zgodne z OpenAI
Klucz APIBrak — endpoint jest lokalny.
Wykrywanie modeliTak — lista modeli jest pobierana z endpointu, a nie dołączana do harnessu.

Podłączanie

Nic do konfigurowania i żadnego klucza do zdobycia. Uruchom serwer na jego zwykłym porcie, a dostawca pojawi się w wyborze modelu; harness sam pyta go o listę modeli, zamiast dostarczać własną.

Wskazanie innego adresu

Host regionalny, bramka albo twój własny serwer. Nadpisania w ~/.oharness/config.json działają na poziomie pól, więc zmiana endpointu nie oznacza powtarzania reszty definicji dostawcy — oto cały blok, z wartością domyślną, aby było widać jego kształt:

{
  "providers": {
    "vllm": {
      "baseUrl": "http://localhost:8000/v1"
    }
  }
}

Co dostajesz w każdym przypadku

Tę samą pętlę agenta, te same narzędzia, te same serwery MCP i te same reguły uprawnień, niezależnie od dostawcy pod spodem — a przełączanie między nimi w trakcie sesji niczego nie konwertuje, bo historia nigdy nie jest zapisywana w formacie konkretnego dostawcy. Czym jest harness agenta wyjaśnia, dlaczego to najtrudniejsza część, a dokumentacja dostawców opisuje sam katalog.

Wszyscy dostawcy (34) · Zainstaluj OHarness