Baseten

Offene Modelle über die Baseten Model APIs. Sie nutzen Ihren eigenen Schlüssel; wir stellen nichts in Rechnung.

Was das Harness bereits weiß

Anbieter-IDbaseten
Base-URLhttps://inference.baseten.co/v1
ProtokollOpenAI-kompatible Chat Completions
API-SchlüsselBASETEN_API_KEY
ModellerkennungJa — die Modellliste wird beim Endpunkt erfragt statt mitgeliefert.

Anbinden

Der Endpunkt oben ist eingebaut, es gibt also nichts zu konfigurieren. Legen Sie den Schlüssel in der Umgebung ab, und der Anbieter erscheint in der Modellauswahl:

export BASETEN_API_KEY="..."

Schlüssel werden von Baseten ausgegeben — hier erhalten Sie einen.

Modelle bei Baseten

Die neuesten Modelle mit Tool-Aufrufen, die Baseten bereitstellt, aus dem models.dev-Snapshot, den OHarness mitliefert. Das Harness fragt den Endpunkt außerdem nach seiner aktuellen Liste, sodass auch ein Modell, das nach diesem Snapshot erschienen ist, in der Auswahl auftaucht.

Modell-IDKontext / Ausgabe$/M Eingabe / Cache / AusgabeReasoning
deepseek-ai/DeepSeek-V4.1-Flash1.05M / 33K0.3 / 0.03 / 1.2Ja
zai-org/GLM-5.3-Flash1.05M / 131K0.15 / — / 0.5Ja
zai-org/GLM-5.31.05M / 262K1.4 / 0.14 / 4.4Ja
zai-org/GLM-5.3-Fast1.05M / 262K2.1 / — / 6.6Ja
deepseek-ai/DeepSeek-V4-Pro-08131.05M / 262K1.32 / — / 3.96Ja
deepseek-ai/DeepSeek-V4-Flash-07311.05M / 384K0.13 / 0.028 / 0.26Ja
thinkingmachines/inkling-small1.05M / 33K0.5 / 0.1 / 1.2Ja
moonshotai/Kimi-K31.05M / 262K3 / — / 15Ja
thinkingmachines/inkling1.05M / 33K1 / — / 4.05Ja
zai-org/GLM-5.21.05M / 262K1.4 / 0.3 / 4.4Ja

Listenpreise in US-Dollar pro Million Tokens, von models.dev abgerufen am 2026-09-19. Baseten ändert Preise und Modelle; maßgeblich ist die eigene Preisseite des Anbieters. Starten Sie eine Sitzung mit dem neuesten Modell:

oharness -m baseten/deepseek-ai/DeepSeek-V4.1-Flash

Auf einen anderen Endpunkt verweisen

Ein regionaler Host, ein Gateway oder ein eigener Server. Overrides in ~/.oharness/config.json gelten pro Feld, ein anderer Endpunkt bedeutet also nicht, den Rest des Anbieters neu anzugeben — das ist der vollständige Block, hier mit dem Standardwert, damit der Aufbau klar ist:

{
  "providers": {
    "baseten": {
      "baseUrl": "https://inference.baseten.co/v1"
    }
  }
}

Was Sie in jedem Fall bekommen

Dieselbe Agent-Schleife, dieselben Tools, dieselben MCP-Server und dieselben Berechtigungsregeln, egal welcher Anbieter darunter liegt — und ein Wechsel mitten in der Sitzung konvertiert nichts, weil der Verlauf nie im Format eines Anbieters gespeichert wird. Was ein Agent-Harness ist erklärt, warum das der schwierige Teil ist, und die Anbieter-Referenz behandelt den Katalog selbst.

Alle 34 Anbieter · OHarness installieren