Groq:API key 与 Base URL

延迟极低的推理。自带你自己的 key;我们不收取任何费用。

harness 已经知道的

厂商 idgroq
Base URLhttps://api.groq.com/openai/v1
协议OpenAI 兼容的 chat completions
API keyGROQ_API_KEY
模型发现支持——模型列表是向端点询问得来的,不是打包在发行版里的。

接入方法

上面的端点已经内置,什么都不用配置。把 key 放进环境变量,这个厂商就会出现在模型选择器里:

export GROQ_API_KEY="..."

key 由 Groq 签发——在哪里获取。

Groq 上的模型

Groq 提供的最新的、支持工具调用的模型,数据来自 OHarness 内置的 models.dev 快照。harness 还会向端点获取实时列表,所以这份快照之后发布的模型也会出现在选择器里。

模型 id上下文 / 输出$/M 输入 / 缓存 / 输出推理
qwen/qwen3.8-27b131K / 16K0.8 / — / 4是
qwen/qwen3.6-27b131K / 16K0.6 / 0.3 / 3是
openai/gpt-oss-safeguard-20b131K / 66K0.075 / — / 0.3是
openai/gpt-oss-120b131K / 66K0.15 / 0.075 / 0.6是
openai/gpt-oss-20b131K / 66K0.075 / 0.0375 / 0.3是
llama-3.3-70b-versatile131K / 33K0.59 / — / 0.79否
llama-3.1-8b-instant131K / 131K0.05 / — / 0.08否

标价单位为美元 / 每 100 万 tokens,于 2026-09-19 读自 models.dev。Groq 的价格和模型会变动,以它自己的定价页为准。用最新的模型开始会话:

oharness -m groq/qwen/qwen3.8-27b

指向别的地址

区域主机、网关,或者你自己的服务器。~/.oharness/config.json 里的覆盖是字段级的,所以改端点不用把这个厂商的其他配置重写一遍——下面是完整的配置块,填的是默认值,方便看清结构:

{
  "providers": {
    "groq": {
      "baseUrl": "https://api.groq.com/openai/v1"
    }
  }
}

无论选哪家都一样

不管底层是哪家厂商,都是同一个 agent 循环、同一套工具、同一批 MCP 服务器、同一套权限规则——会话中途在它们之间切换,什么都不用转换,因为历史记录从来不以某个厂商的格式存储。什么是 agent harness 讲了为什么这才是难点,厂商参考文档讲了目录本身。

全部 34 家厂商 · 安装 OHarness