NVIDIA NIM: API-nyckel och bas-URL
NVIDIA NIM, hostad inferens. Använd din egen nyckel; vi debiterar ingenting.
Det harnessen redan vet
| Leverantörs-id | nvidia |
| Medföljande bas-URL | https://integrate.api.nvidia.com/v1 |
| Protokoll | OpenAI-kompatibla chat completions |
| API-nyckel | NVIDIA_API_KEY |
| Modellupptäckt | Ja — modellistan efterfrågas hos endpointen i stället för att skickas med. |
Ansluta den
Endpointen ovan är inbyggd, så det finns inget att konfigurera. Lägg nyckeln i miljön så dyker leverantören upp i modellväljaren:
export NVIDIA_API_KEY="..."Nycklar utfärdas av NVIDIA NIM — så här får du en.
Konfigurera API-nyckeln och felsök
Officiell konfigurationsguide (kontrollerad 2026-10-24)
Skapa en nyckel enligt den officiella guiden nedan, kör kommandot och klistra in nyckeln när du blir tillfrågad. OHarness sparar den i lagringen för inloggningsuppgifter. En nyckel i processmiljön har företräde framför en sparad nyckel.
oharness auth login nvidiaNVIDIA_API_KEY är en miljövariabel, inte ett fält på översta nivån i config.json. För att byta endpoint slår du ihop providers-blocket nedan med ~/.oharness/config.json och behåller övriga inställningar. Bas-URL:en ska inte innehålla /chat/completions.
{
"providers": {
"nvidia": {
"baseUrl": "https://integrate.api.nvidia.com/v1"
}
}
}Om begäran misslyckas
- 401 eller 403: läs svaret och kontrollera aktiv nyckel, kontoåtkomst och saldo. En gammal miljövariabel kan åsidosätta en nyligen sparad nyckel. En export i terminalen gäller bara den aktuella shell-sessionen och processer som startas därifrån.
- 404: kontrollera endpoint och exakt modell-ID i leverantörens konsol. 429: kontrollera hastighetsgränser och kvot innan du försöker igen. Modeller i den medföljande katalogen kanske inte längre är tillgängliga.
Installera OHarness · Leverantörskonfiguration · Konfigurationsfiler
Modeller på NVIDIA NIM
De nyaste modellerna som NVIDIA NIM erbjuder och som kan anropa verktyg, från den models.dev-ögonblicksbild som följer med OHarness. Harnessen frågar också endpointen efter dess aktuella lista, så en modell som släppts efter ögonblicksbilden dyker ändå upp i väljaren.
| Modell-id | Kontext / utdata | $/M in / cachad / ut | Resonemang |
|---|---|---|---|
z-ai/glm-5.3-flash | 1M / 131K | 0 / — / 0 | Ja |
z-ai/glm-5.3 | 1M / 131K | 0 / — / 0 | Ja |
deepseek-ai/deepseek-v4-pro-0813 | 1M / 384K | 0 / — / 0 | Ja |
nvidia/nemotron-3.5-lightning-30b-a3b | 262K / 262K | 0 / — / 0 | Ja |
meta/muse-glimmer-30b | 131K / 131K | 0 / — / 0 | Ja |
deepseek-ai/deepseek-v4-flash-0731 | 1M / 384K | 0 / — / 0 | Ja |
moonshotai/kimi-k3 | 1.05M / 131K | 0 / — / 0 | Ja |
thinkingmachines/inkling | 1.05M / 16K | 0 / — / 0 | Ja |
poolside/laguna-xs-2.1 | 262K / 16K | 0 / — / 0 | Ja |
z-ai/glm-5.2 | 1M / 131K | 0 / — / 0 | Ja |
Listpriser i USD per miljon tokens, lästa från models.dev den 2026-09-19. NVIDIA NIM ändrar sina priser och modeller; dess egen prissida är det som gäller. Starta en session med den nyaste:
oharness -m nvidia/z-ai/glm-5.3-flashDet du får oavsett
Samma agentloop, samma verktyg, samma MCP-servrar och samma behörighetsregler, vilken leverantör som än ligger under — och att byta mellan dem mitt i en session konverterar ingenting, eftersom historiken aldrig sparas i en leverantörs format. Vad en agent-harness är förklarar varför det är den svåra delen, och referensen för leverantörer går igenom själva katalogen.