NVIDIA NIM: API-nyckel och bas-URL

NVIDIA NIM, hostad inferens. Använd din egen nyckel; vi debiterar ingenting.

Det harnessen redan vet

Leverantörs-idnvidia
Medföljande bas-URLhttps://integrate.api.nvidia.com/v1
ProtokollOpenAI-kompatibla chat completions
API-nyckelNVIDIA_API_KEY
ModellupptäcktJa — modellistan efterfrågas hos endpointen i stället för att skickas med.

Ansluta den

Endpointen ovan är inbyggd, så det finns inget att konfigurera. Lägg nyckeln i miljön så dyker leverantören upp i modellväljaren:

export NVIDIA_API_KEY="..."

Nycklar utfärdas av NVIDIA NIM — så här får du en.

Konfigurera API-nyckeln och felsök

Officiell konfigurationsguide (kontrollerad 2026-10-24)

Skapa en nyckel enligt den officiella guiden nedan, kör kommandot och klistra in nyckeln när du blir tillfrågad. OHarness sparar den i lagringen för inloggningsuppgifter. En nyckel i processmiljön har företräde framför en sparad nyckel.

oharness auth login nvidia

NVIDIA_API_KEY är en miljövariabel, inte ett fält på översta nivån i config.json. För att byta endpoint slår du ihop providers-blocket nedan med ~/.oharness/config.json och behåller övriga inställningar. Bas-URL:en ska inte innehålla /chat/completions.

{
  "providers": {
    "nvidia": {
      "baseUrl": "https://integrate.api.nvidia.com/v1"
    }
  }
}

Om begäran misslyckas

  • 401 eller 403: läs svaret och kontrollera aktiv nyckel, kontoåtkomst och saldo. En gammal miljövariabel kan åsidosätta en nyligen sparad nyckel. En export i terminalen gäller bara den aktuella shell-sessionen och processer som startas därifrån.
  • 404: kontrollera endpoint och exakt modell-ID i leverantörens konsol. 429: kontrollera hastighetsgränser och kvot innan du försöker igen. Modeller i den medföljande katalogen kanske inte längre är tillgängliga.

Installera OHarness · Leverantörskonfiguration · Konfigurationsfiler

Modeller på NVIDIA NIM

De nyaste modellerna som NVIDIA NIM erbjuder och som kan anropa verktyg, från den models.dev-ögonblicksbild som följer med OHarness. Harnessen frågar också endpointen efter dess aktuella lista, så en modell som släppts efter ögonblicksbilden dyker ändå upp i väljaren.

Modell-idKontext / utdata$/M in / cachad / utResonemang
z-ai/glm-5.3-flash1M / 131K0 / — / 0Ja
z-ai/glm-5.31M / 131K0 / — / 0Ja
deepseek-ai/deepseek-v4-pro-08131M / 384K0 / — / 0Ja
nvidia/nemotron-3.5-lightning-30b-a3b262K / 262K0 / — / 0Ja
meta/muse-glimmer-30b131K / 131K0 / — / 0Ja
deepseek-ai/deepseek-v4-flash-07311M / 384K0 / — / 0Ja
moonshotai/kimi-k31.05M / 131K0 / — / 0Ja
thinkingmachines/inkling1.05M / 16K0 / — / 0Ja
poolside/laguna-xs-2.1262K / 16K0 / — / 0Ja
z-ai/glm-5.21M / 131K0 / — / 0Ja

Listpriser i USD per miljon tokens, lästa från models.dev den 2026-09-19. NVIDIA NIM ändrar sina priser och modeller; dess egen prissida är det som gäller. Starta en session med den nyaste:

oharness -m nvidia/z-ai/glm-5.3-flash

Det du får oavsett

Samma agentloop, samma verktyg, samma MCP-servrar och samma behörighetsregler, vilken leverantör som än ligger under — och att byta mellan dem mitt i en session konverterar ingenting, eftersom historiken aldrig sparas i en leverantörs format. Vad en agent-harness är förklarar varför det är den svåra delen, och referensen för leverantörer går igenom själva katalogen.

Alla 34 leverantörer · Installera OHarness