Baseten

Modelos abertos nas Model APIs da Baseten. Use sua própria chave; nada é cobrado por nós.

O que o harness já sabe

Id do provedorbaseten
URL basehttps://inference.baseten.co/v1
ProtocoloChat completions compatível com OpenAI
Chave de APIBASETEN_API_KEY
Descoberta de modelosSim — a lista de modelos é pedida ao endpoint em vez de vir embutida.

Como conectar

O endpoint acima já vem embutido, então não há nada a configurar. Coloque a chave no ambiente, e o provedor aparece no seletor de modelos:

export BASETEN_API_KEY="..."

As chaves são emitidas por Baseten — onde conseguir uma.

Modelos em Baseten

Os modelos mais recentes que Baseten serve com chamada de ferramentas, do snapshot do models.dev incluído no OHarness. O harness também pede ao endpoint a lista atual, então um modelo lançado depois deste snapshot ainda aparece no seletor.

Id do modeloContexto / saída$/M entrada / cache / saídaRaciocínio
deepseek-ai/DeepSeek-V4.1-Flash1.05M / 33K0.3 / 0.03 / 1.2Sim
zai-org/GLM-5.3-Flash1.05M / 131K0.15 / — / 0.5Sim
zai-org/GLM-5.31.05M / 262K1.4 / 0.14 / 4.4Sim
zai-org/GLM-5.3-Fast1.05M / 262K2.1 / — / 6.6Sim
deepseek-ai/DeepSeek-V4-Pro-08131.05M / 262K1.32 / — / 3.96Sim
deepseek-ai/DeepSeek-V4-Flash-07311.05M / 384K0.13 / 0.028 / 0.26Sim
thinkingmachines/inkling-small1.05M / 33K0.5 / 0.1 / 1.2Sim
moonshotai/Kimi-K31.05M / 262K3 / — / 15Sim
thinkingmachines/inkling1.05M / 33K1 / — / 4.05Sim
zai-org/GLM-5.21.05M / 262K1.4 / 0.3 / 4.4Sim

Preços de tabela em USD por milhão de tokens, lidos do models.dev em 2026-09-19. Baseten muda seus preços e modelos; a própria página de preços é a referência. Inicie uma sessão com o mais recente:

oharness -m baseten/deepseek-ai/DeepSeek-V4.1-Flash

Apontando para outro lugar

Um host regional, um gateway ou um servidor seu. As sobrescritas em ~/.oharness/config.json são por campo, então mudar o endpoint não significa repetir o resto do provedor — este é o bloco inteiro, mostrado com o valor padrão para deixar o formato claro:

{
  "providers": {
    "baseten": {
      "baseUrl": "https://inference.baseten.co/v1"
    }
  }
}

O que você tem de qualquer forma

O mesmo loop do agente, as mesmas ferramentas, os mesmos servidores MCP e as mesmas regras de permissão, qualquer que seja o provedor por baixo — e trocar entre eles no meio da sessão não converte nada, porque o histórico nunca é guardado no formato de um fornecedor. O que é um harness de agentes explica por que essa é a parte difícil, e a referência de provedores cobre o próprio catálogo.

Todos os 34 provedores · Instalar o OHarness