Baseten

Modelli aperti su Baseten Model APIs. Usi la tua chiave; noi non addebitiamo nulla.

Cosa sa già l'harness

Id del fornitore	`baseten`
URL di base	`https://inference.baseten.co/v1`
Protocollo	Chat completions compatibili con OpenAI
Chiave API	`BASETEN_API_KEY`
Rilevamento dei modelli	Sì: l'elenco dei modelli viene chiesto all'endpoint invece di essere incluso nel pacchetto.

Come collegarlo

L'endpoint qui sopra è integrato, quindi non c'è nulla da configurare. Metti la chiave nell'ambiente e il fornitore compare nel selettore dei modelli:

$export BASETEN_API_KEY="..."

Le chiavi sono rilasciate da Baseten: dove ottenerne una.

Modelli su Baseten

I modelli più recenti serviti da Baseten in grado di chiamare strumenti, dallo snapshot di models.dev incluso in OHarness. L'harness chiede anche all'endpoint il suo elenco aggiornato, quindi un modello uscito dopo questo snapshot compare comunque nel selettore.

Id del modello	Contesto / output	$/M input / cache / output	Ragionamento
`deepseek-ai/DeepSeek-V4.1-Flash`	1.05M / 33K	0.3 / 0.03 / 1.2	Sì
`zai-org/GLM-5.3-Flash`	1.05M / 131K	0.15 / — / 0.5	Sì
`zai-org/GLM-5.3`	1.05M / 262K	1.4 / 0.14 / 4.4	Sì
`zai-org/GLM-5.3-Fast`	1.05M / 262K	2.1 / — / 6.6	Sì
`deepseek-ai/DeepSeek-V4-Pro-0813`	1.05M / 262K	1.32 / — / 3.96	Sì
`deepseek-ai/DeepSeek-V4-Flash-0731`	1.05M / 384K	0.13 / 0.028 / 0.26	Sì
`thinkingmachines/inkling-small`	1.05M / 33K	0.5 / 0.1 / 1.2	Sì
`moonshotai/Kimi-K3`	1.05M / 262K	3 / — / 15	Sì
`thinkingmachines/inkling`	1.05M / 33K	1 / — / 4.05	Sì
`zai-org/GLM-5.2`	1.05M / 262K	1.4 / 0.3 / 4.4	Sì

Prezzi di listino in USD per milione di token, letti da models.dev il 2026-09-19. Baseten cambia prezzi e modelli; fa fede la sua pagina dei prezzi. Avvia una sessione con il più recente:

$oharness -m baseten/deepseek-ai/DeepSeek-V4.1-Flash

Puntarlo altrove

Un host regionale, un gateway o un tuo server. Gli override in ~/.oharness/config.json valgono a livello di campo, quindi cambiare l'endpoint non significa riscrivere il resto del fornitore. Questo è il blocco completo, mostrato con il valore predefinito per rendere chiara la struttura:

{
  "providers": {
    "baseten": {
      "baseUrl": "https://inference.baseten.co/v1"
    }
  }
}

Cosa ottieni in ogni caso

Lo stesso ciclo dell'agente, gli stessi strumenti, gli stessi server MCP e le stesse regole di permesso, qualunque fornitore ci sia sotto; e passare dall'uno all'altro a metà sessione non converte nulla, perché la cronologia non viene mai salvata nel formato di un fornitore. Cos'è un harness per agenti spiega perché questa è la parte difficile, e il riferimento sui fornitori tratta il catalogo stesso.

Tutti i 34 fornitori · Installa OHarness