DeepInfra: API-sleutel en basis-URL

Goedkope inferentie voor open modellen. Gebruik je eigen sleutel; wij factureren niets.

Wat het harness al weet

Aanbieder-iddeepinfra
Basis-URLhttps://api.deepinfra.com/v1/openai
ProtocolOpenAI-compatibele chat completions
API-sleutelDEEPINFRA_API_KEY
ModeldetectieJa — de modellijst wordt bij het endpoint opgevraagd in plaats van meegeleverd.

Verbinden

Het endpoint hierboven is ingebouwd, dus er valt niets in te stellen. Zet de sleutel in de omgeving en de aanbieder verschijnt in de modelkiezer:

export DEEPINFRA_API_KEY="..."

Modellen op DeepInfra

De nieuwste modellen die DeepInfra levert en die tools kunnen aanroepen, uit de models.dev-snapshot die OHarness meelevert. Het harness vraagt het endpoint ook om zijn actuele lijst, dus een model dat na deze snapshot is uitgebracht, verschijnt toch in de kiezer.

Model-idContext / output$/M in / cached / outReasoning
deepseek-ai/DeepSeek-V4.1-Flash1.05M / 384K0.2 / 0.006 / 0.6Ja
Qwen/Qwen3.8-Flash1M / 131K0.113 / 0.0141 / 0.382Nee
zai-org/GLM-5.3-Flash1.05M / 131K0.15 / 0.03 / 0.5Ja
deepseek-ai/DeepSeek-V4-Flash-Vision-Exp1.05M / 384K0.44 / 0.014 / 1.32Ja
Qwen/Qwen3.8-27B262K / 33K0.2 / 0.05 / 2.5Ja
zai-org/GLM-5.31.05M / 131K1.2 / 0.2 / 4Ja
Qwen/Qwen3.8-2.4T-A95B262K / 131K2 / 0.2 / 6Ja
deepseek-ai/DeepSeek-V4-Pro-08131.05M / 384K1.3 / 0.1 / 2.6Ja
Qwen/Qwen3.8-Max256K / 131K1.65 / 0.206 / 4.951Nee
deepseek-ai/DeepSeek-V4-Flash-07311.05M / 384K0.06 / 0.015 / 0.18Ja

Catalogusprijzen in USD per miljoen tokens, uitgelezen van models.dev op 2026-09-19. DeepInfra wijzigt zijn prijzen en modellen; de eigen prijzenpagina van de aanbieder is leidend. Start een sessie met het nieuwste model:

oharness -m deepinfra/deepseek-ai/DeepSeek-V4.1-Flash

Ergens anders naartoe laten wijzen

Een regionale host, een gateway of een eigen server. Overrides in ~/.oharness/config.json werken per veld, dus het endpoint wijzigen betekent niet dat je de rest van de aanbieder opnieuw moet opgeven — dit is het volledige blok, met de standaardwaarde ingevuld zodat de vorm duidelijk is:

{
  "providers": {
    "deepinfra": {
      "baseUrl": "https://api.deepinfra.com/v1/openai"
    }
  }
}

Wat je hoe dan ook krijgt

Dezelfde agent-lus, dezelfde tools, dezelfde MCP-servers en dezelfde permissieregels, welke aanbieder er ook onder zit — en midden in een sessie tussen ze wisselen zet niets om, omdat de geschiedenis nooit in de vorm van een leverancier wordt opgeslagen. Wat een agent-harness is legt uit waarom dat het lastige deel is, en de referentie voor aanbieders behandelt de catalogus zelf.

Alle 34 aanbieders · OHarness installeren