NVIDIA NIM: API-sleutel en basis-URL

Gehoste inferentie via NVIDIA NIM. Gebruik je eigen sleutel; wij factureren niets.

Wat het harness al weet

Aanbieder-id	`nvidia`
Meegeleverde basis-URL	`https://integrate.api.nvidia.com/v1`
Protocol	OpenAI-compatibele chat completions
API-sleutel	`NVIDIA_API_KEY`
Modeldetectie	Ja — de modellijst wordt bij het endpoint opgevraagd in plaats van meegeleverd.

Verbinden

Het endpoint hierboven is ingebouwd, dus er valt niets in te stellen. Zet de sleutel in de omgeving en de aanbieder verschijnt in de modelkiezer:

$export NVIDIA_API_KEY="..."

Sleutels worden uitgegeven door NVIDIA NIM — waar je er een krijgt.

API-sleutel instellen en problemen oplossen

Officiële installatiehandleiding (gecontroleerd op 2026-10-24)

Maak een sleutel met de officiële handleiding hieronder, voer deze opdracht uit en plak de sleutel bij de prompt. OHarness bewaart deze in de opslag voor inloggegevens. Een sleutel in de procesomgeving heeft voorrang op een opgeslagen sleutel.

$oharness auth login nvidia

NVIDIA_API_KEY is een omgevingsvariabele, geen veld op het hoogste niveau van config.json. Voeg voor een ander endpoint het onderstaande providers-blok samen met ~/.oharness/config.json en behoud de overige instellingen. De basis-URL mag geen /chat/completions bevatten.

{
  "providers": {
    "nvidia": {
      "baseUrl": "https://integrate.api.nvidia.com/v1"
    }
  }
}

Als het verzoek mislukt

401 of 403: lees de antwoordtekst en controleer de actieve sleutel, accounttoegang en het tegoed. Een oude omgevingsvariabele kan een pas opgeslagen sleutel overschrijven. Een export in de terminal geldt alleen voor die shell en de processen die deze start.
404: controleer het endpoint en de exacte model-ID in de console van de aanbieder. 429: controleer snelheidslimieten en quota voordat u opnieuw probeert. Modellen uit de meegeleverde catalogus zijn mogelijk niet meer beschikbaar.

OHarness installeren · Aanbieders configureren · Configuratiebestanden

Modellen op NVIDIA NIM

De nieuwste modellen die NVIDIA NIM levert en die tools kunnen aanroepen, uit de models.dev-snapshot die OHarness meelevert. Het harness vraagt het endpoint ook om zijn actuele lijst, dus een model dat na deze snapshot is uitgebracht, verschijnt toch in de kiezer.

Model-id	Context / output	$/M in / cached / out	Reasoning
`z-ai/glm-5.3-flash`	1M / 131K	0 / — / 0	Ja
`z-ai/glm-5.3`	1M / 131K	0 / — / 0	Ja
`deepseek-ai/deepseek-v4-pro-0813`	1M / 384K	0 / — / 0	Ja
`nvidia/nemotron-3.5-lightning-30b-a3b`	262K / 262K	0 / — / 0	Ja
`meta/muse-glimmer-30b`	131K / 131K	0 / — / 0	Ja
`deepseek-ai/deepseek-v4-flash-0731`	1M / 384K	0 / — / 0	Ja
`moonshotai/kimi-k3`	1.05M / 131K	0 / — / 0	Ja
`thinkingmachines/inkling`	1.05M / 16K	0 / — / 0	Ja
`poolside/laguna-xs-2.1`	262K / 16K	0 / — / 0	Ja
`z-ai/glm-5.2`	1M / 131K	0 / — / 0	Ja

Catalogusprijzen in USD per miljoen tokens, uitgelezen van models.dev op 2026-09-19. NVIDIA NIM wijzigt zijn prijzen en modellen; de eigen prijzenpagina van de aanbieder is leidend. Start een sessie met het nieuwste model:

$oharness -m nvidia/z-ai/glm-5.3-flash

Wat je hoe dan ook krijgt

Dezelfde agent-lus, dezelfde tools, dezelfde MCP-servers en dezelfde permissieregels, welke aanbieder er ook onder zit — en midden in een sessie tussen ze wisselen zet niets om, omdat de geschiedenis nooit in de vorm van een leverancier wordt opgeslagen. Wat een agent-harness is legt uit waarom dat het lastige deel is, en de referentie voor aanbieders behandelt de catalogus zelf.

Alle 34 aanbieders · OHarness installeren