NVIDIA NIM: API-Schlüssel und Base-URL

Gehostete Inferenz über NVIDIA NIM. Sie nutzen Ihren eigenen Schlüssel; wir stellen nichts in Rechnung.

Was das Harness bereits weiß

Anbieter-ID	`nvidia`
Mitgelieferte Base-URL	`https://integrate.api.nvidia.com/v1`
Protokoll	OpenAI-kompatible Chat Completions
API-Schlüssel	`NVIDIA_API_KEY`
Modellerkennung	Ja — die Modellliste wird beim Endpunkt erfragt statt mitgeliefert.

Anbinden

Der Endpunkt oben ist eingebaut, es gibt also nichts zu konfigurieren. Legen Sie den Schlüssel in der Umgebung ab, und der Anbieter erscheint in der Modellauswahl:

$export NVIDIA_API_KEY="..."

Schlüssel werden von NVIDIA NIM ausgegeben — hier erhalten Sie einen.

API-Schlüssel einrichten und Fehler beheben

Offizielle Einrichtungsanleitung (geprüft am 2026-10-24)

Erstellen Sie einen Schlüssel anhand der offiziellen Anleitung unten. Führen Sie dann diesen Befehl aus und fügen Sie den Schlüssel in die Eingabeaufforderung ein. OHarness speichert ihn im Anmeldedatenspeicher. Ein Schlüssel in der Prozessumgebung hat Vorrang vor einem gespeicherten Schlüssel.

$oharness auth login nvidia

NVIDIA_API_KEY ist eine Umgebungsvariable, kein Feld auf der obersten Ebene von config.json. Fügen Sie für einen anderen Endpunkt den folgenden providers-Block in ~/.oharness/config.json ein und behalten Sie die übrigen Einstellungen bei. Die Base-URL darf /chat/completions nicht enthalten.

{
  "providers": {
    "nvidia": {
      "baseUrl": "https://integrate.api.nvidia.com/v1"
    }
  }
}

Wenn die Anfrage fehlschlägt

401 oder 403: Lesen Sie den Antworttext und prüfen Sie den aktiven Schlüssel, Kontozugriff und Guthaben. Eine alte Umgebungsvariable kann einen neu gespeicherten Schlüssel überschreiben. Ein Terminal-Export gilt nur für diese Shell und ihre gestarteten Prozesse.
404: Prüfen Sie Endpunkt und genaue Modell-ID in der Anbieterkonsole. 429: Prüfen Sie vor einem erneuten Versuch Ratenlimits und Kontingent. Modelle aus dem mitgelieferten Snapshot sind möglicherweise nicht mehr verfügbar.

OHarness installieren · Anbieterkonfiguration · Konfigurationsdateien

Modelle bei NVIDIA NIM

Die neuesten Modelle mit Tool-Aufrufen, die NVIDIA NIM bereitstellt, aus dem models.dev-Snapshot, den OHarness mitliefert. Das Harness fragt den Endpunkt außerdem nach seiner aktuellen Liste, sodass auch ein Modell, das nach diesem Snapshot erschienen ist, in der Auswahl auftaucht.

Modell-ID	Kontext / Ausgabe	$/M Eingabe / Cache / Ausgabe	Reasoning
`z-ai/glm-5.3-flash`	1M / 131K	0 / — / 0	Ja
`z-ai/glm-5.3`	1M / 131K	0 / — / 0	Ja
`deepseek-ai/deepseek-v4-pro-0813`	1M / 384K	0 / — / 0	Ja
`nvidia/nemotron-3.5-lightning-30b-a3b`	262K / 262K	0 / — / 0	Ja
`meta/muse-glimmer-30b`	131K / 131K	0 / — / 0	Ja
`deepseek-ai/deepseek-v4-flash-0731`	1M / 384K	0 / — / 0	Ja
`moonshotai/kimi-k3`	1.05M / 131K	0 / — / 0	Ja
`thinkingmachines/inkling`	1.05M / 16K	0 / — / 0	Ja
`poolside/laguna-xs-2.1`	262K / 16K	0 / — / 0	Ja
`z-ai/glm-5.2`	1M / 131K	0 / — / 0	Ja

Listenpreise in US-Dollar pro Million Tokens, von models.dev abgerufen am 2026-09-19. NVIDIA NIM ändert Preise und Modelle; maßgeblich ist die eigene Preisseite des Anbieters. Starten Sie eine Sitzung mit dem neuesten Modell:

$oharness -m nvidia/z-ai/glm-5.3-flash

Was Sie in jedem Fall bekommen

Dieselbe Agent-Schleife, dieselben Tools, dieselben MCP-Server und dieselben Berechtigungsregeln, egal welcher Anbieter darunter liegt — und ein Wechsel mitten in der Sitzung konvertiert nichts, weil der Verlauf nie im Format eines Anbieters gespeichert wird. Was ein Agent-Harness ist erklärt, warum das der schwierige Teil ist, und die Anbieter-Referenz behandelt den Katalog selbst.

Alle 34 Anbieter · OHarness installieren