Baseten
Öppna modeller på Baseten Model APIs. Använd din egen nyckel; vi debiterar ingenting.
Det harnessen redan vet
| Leverantörs-id | baseten |
| Bas-URL | https://inference.baseten.co/v1 |
| Protokoll | OpenAI-kompatibla chat completions |
| API-nyckel | BASETEN_API_KEY |
| Modellupptäckt | Ja — modellistan efterfrågas hos endpointen i stället för att skickas med. |
Ansluta den
Endpointen ovan är inbyggd, så det finns inget att konfigurera. Lägg nyckeln i miljön så dyker leverantören upp i modellväljaren:
export BASETEN_API_KEY="..."Nycklar utfärdas av Baseten — så här får du en.
Modeller på Baseten
De nyaste modellerna som Baseten erbjuder och som kan anropa verktyg, från den models.dev-ögonblicksbild som följer med OHarness. Harnessen frågar också endpointen efter dess aktuella lista, så en modell som släppts efter ögonblicksbilden dyker ändå upp i väljaren.
| Modell-id | Kontext / utdata | $/M in / cachad / ut | Resonemang |
|---|---|---|---|
deepseek-ai/DeepSeek-V4.1-Flash | 1.05M / 33K | 0.3 / 0.03 / 1.2 | Ja |
zai-org/GLM-5.3-Flash | 1.05M / 131K | 0.15 / — / 0.5 | Ja |
zai-org/GLM-5.3 | 1.05M / 262K | 1.4 / 0.14 / 4.4 | Ja |
zai-org/GLM-5.3-Fast | 1.05M / 262K | 2.1 / — / 6.6 | Ja |
deepseek-ai/DeepSeek-V4-Pro-0813 | 1.05M / 262K | 1.32 / — / 3.96 | Ja |
deepseek-ai/DeepSeek-V4-Flash-0731 | 1.05M / 384K | 0.13 / 0.028 / 0.26 | Ja |
thinkingmachines/inkling-small | 1.05M / 33K | 0.5 / 0.1 / 1.2 | Ja |
moonshotai/Kimi-K3 | 1.05M / 262K | 3 / — / 15 | Ja |
thinkingmachines/inkling | 1.05M / 33K | 1 / — / 4.05 | Ja |
zai-org/GLM-5.2 | 1.05M / 262K | 1.4 / 0.3 / 4.4 | Ja |
Listpriser i USD per miljon tokens, lästa från models.dev den 2026-09-19. Baseten ändrar sina priser och modeller; dess egen prissida är det som gäller. Starta en session med den nyaste:
oharness -m baseten/deepseek-ai/DeepSeek-V4.1-FlashPeka den någon annanstans
En regional värd, en gateway eller en egen server. Åsidosättningar i ~/.oharness/config.json gäller per fält, så att ändra endpointen betyder inte att du måste ange resten av leverantören igen — det här är hela blocket, visat med standardvärdet så att formen blir tydlig:
{
"providers": {
"baseten": {
"baseUrl": "https://inference.baseten.co/v1"
}
}
}Det du får oavsett
Samma agentloop, samma verktyg, samma MCP-servrar och samma behörighetsregler, vilken leverantör som än ligger under — och att byta mellan dem mitt i en session konverterar ingenting, eftersom historiken aldrig sparas i en leverantörs format. Vad en agent-harness är förklarar varför det är den svåra delen, och referensen för leverantörer går igenom själva katalogen.