Baseten

Baseten Model APIs 上的开源模型。自带你自己的 key;我们不收取任何费用。

harness 已经知道的

厂商 idbaseten
Base URLhttps://inference.baseten.co/v1
协议OpenAI 兼容的 chat completions
API keyBASETEN_API_KEY
模型发现支持——模型列表是向端点询问得来的,不是打包在发行版里的。

接入方法

上面的端点已经内置,什么都不用配置。把 key 放进环境变量,这个厂商就会出现在模型选择器里:

export BASETEN_API_KEY="..."

key 由 Baseten 签发——在哪里获取。

Baseten 上的模型

Baseten 提供的最新的、支持工具调用的模型,数据来自 OHarness 内置的 models.dev 快照。harness 还会向端点获取实时列表,所以这份快照之后发布的模型也会出现在选择器里。

模型 id上下文 / 输出$/M 输入 / 缓存 / 输出推理
deepseek-ai/DeepSeek-V4.1-Flash1.05M / 33K0.3 / 0.03 / 1.2是
zai-org/GLM-5.3-Flash1.05M / 131K0.15 / — / 0.5是
zai-org/GLM-5.31.05M / 262K1.4 / 0.14 / 4.4是
zai-org/GLM-5.3-Fast1.05M / 262K2.1 / — / 6.6是
deepseek-ai/DeepSeek-V4-Pro-08131.05M / 262K1.32 / — / 3.96是
deepseek-ai/DeepSeek-V4-Flash-07311.05M / 384K0.13 / 0.028 / 0.26是
thinkingmachines/inkling-small1.05M / 33K0.5 / 0.1 / 1.2是
moonshotai/Kimi-K31.05M / 262K3 / — / 15是
thinkingmachines/inkling1.05M / 33K1 / — / 4.05是
zai-org/GLM-5.21.05M / 262K1.4 / 0.3 / 4.4是

标价单位为美元 / 每 100 万 tokens,于 2026-09-19 读自 models.dev。Baseten 的价格和模型会变动,以它自己的定价页为准。用最新的模型开始会话:

oharness -m baseten/deepseek-ai/DeepSeek-V4.1-Flash

指向别的地址

区域主机、网关,或者你自己的服务器。~/.oharness/config.json 里的覆盖是字段级的,所以改端点不用把这个厂商的其他配置重写一遍——下面是完整的配置块,填的是默认值,方便看清结构:

{
  "providers": {
    "baseten": {
      "baseUrl": "https://inference.baseten.co/v1"
    }
  }
}

无论选哪家都一样

不管底层是哪家厂商,都是同一个 agent 循环、同一套工具、同一批 MCP 服务器、同一套权限规则——会话中途在它们之间切换,什么都不用转换,因为历史记录从来不以某个厂商的格式存储。什么是 agent harness 讲了为什么这才是难点,厂商参考文档讲了目录本身。

全部 34 家厂商 · 安装 OHarness