NVIDIA NIM: klucz API i bazowy URL

Hostowane wnioskowanie NVIDIA NIM. Używasz własnego klucza; my niczego nie rozliczamy.

Co harness już wie

Id dostawcy	`nvidia`
Dołączony bazowy URL	`https://integrate.api.nvidia.com/v1`
Protokół	Chat completions zgodne z OpenAI
Klucz API	`NVIDIA_API_KEY`
Wykrywanie modeli	Tak — lista modeli jest pobierana z endpointu, a nie dołączana do harnessu.

Podłączanie

Powyższy endpoint jest wbudowany, więc nie trzeba niczego konfigurować. Umieść klucz w środowisku, a dostawca pojawi się w wyborze modelu:

$export NVIDIA_API_KEY="..."

Klucze wydaje NVIDIA NIM — gdzie go zdobyć.

Konfiguracja klucza API i rozwiązywanie problemów

Oficjalny przewodnik konfiguracji (sprawdzono 2026-10-24)

Utwórz klucz zgodnie z oficjalnym przewodnikiem poniżej, uruchom to polecenie i wklej klucz po wyświetleniu monitu. OHarness zapisze go w magazynie poświadczeń. Klucz w środowisku procesu ma pierwszeństwo przed zapisanym kluczem.

$oharness auth login nvidia

NVIDIA_API_KEY to zmienna środowiskowa, a nie pole głównego poziomu pliku config.json. Aby zmienić endpoint, scal poniższy blok providers z ~/.oharness/config.json, zachowując pozostałe ustawienia. Bazowy URL nie może zawierać /chat/completions.

{
  "providers": {
    "nvidia": {
      "baseUrl": "https://integrate.api.nvidia.com/v1"
    }
  }
}

Jeśli żądanie się nie powiedzie

401 lub 403: przeczytaj odpowiedź i sprawdź aktywny klucz, dostęp konta oraz saldo. Stara zmienna środowiskowa może zastąpić nowo zapisany klucz. Eksport w terminalu dotyczy tylko tej powłoki i uruchomionych przez nią procesów.
404: sprawdź endpoint i dokładny identyfikator modelu w konsoli dostawcy. 429: przed ponowieniem sprawdź limity żądań i dostępny limit konta. Modele z dołączonego katalogu mogą już nie być dostępne.

Zainstaluj OHarness · Konfiguracja dostawców · Pliki konfiguracyjne

Modele w NVIDIA NIM

Najnowsze modele z wywoływaniem narzędzi, które serwuje NVIDIA NIM, z migawki models.dev dołączonej do OHarness. Harness pyta też endpoint o bieżącą listę, więc model wydany po tej migawce i tak pojawi się w wyborze.

Id modelu	Kontekst / wyjście	$/M wejście / cache / wyjście	Rozumowanie
`z-ai/glm-5.3-flash`	1M / 131K	0 / — / 0	Tak
`z-ai/glm-5.3`	1M / 131K	0 / — / 0	Tak
`deepseek-ai/deepseek-v4-pro-0813`	1M / 384K	0 / — / 0	Tak
`nvidia/nemotron-3.5-lightning-30b-a3b`	262K / 262K	0 / — / 0	Tak
`meta/muse-glimmer-30b`	131K / 131K	0 / — / 0	Tak
`deepseek-ai/deepseek-v4-flash-0731`	1M / 384K	0 / — / 0	Tak
`moonshotai/kimi-k3`	1.05M / 131K	0 / — / 0	Tak
`thinkingmachines/inkling`	1.05M / 16K	0 / — / 0	Tak
`poolside/laguna-xs-2.1`	262K / 16K	0 / — / 0	Tak
`z-ai/glm-5.2`	1M / 131K	0 / — / 0	Tak

Ceny katalogowe w USD za milion tokenów, odczytane z models.dev 2026-09-19. NVIDIA NIM zmienia ceny i modele; wiążąca jest jego własna strona z cennikiem. Rozpocznij sesję na najnowszym:

$oharness -m nvidia/z-ai/glm-5.3-flash

Co dostajesz w każdym przypadku

Tę samą pętlę agenta, te same narzędzia, te same serwery MCP i te same reguły uprawnień, niezależnie od dostawcy pod spodem — a przełączanie między nimi w trakcie sesji niczego nie konwertuje, bo historia nigdy nie jest zapisywana w formacie konkretnego dostawcy. Czym jest harness agenta wyjaśnia, dlaczego to najtrudniejsza część, a dokumentacja dostawców opisuje sam katalog.

Wszyscy dostawcy (34) · Zainstaluj OHarness