NVIDIA NIM:API key 与 Base URL

NVIDIA NIM 托管推理。自带你自己的 key;我们不收取任何费用。

harness 已经知道的

厂商 idnvidia
内置 base URLhttps://integrate.api.nvidia.com/v1
协议OpenAI 兼容的 chat completions
API keyNVIDIA_API_KEY
模型发现支持——模型列表是向端点询问得来的,不是打包在发行版里的。

接入方法

上面的端点已经内置,什么都不用配置。把 key 放进环境变量,这个厂商就会出现在模型选择器里:

export NVIDIA_API_KEY="..."

key 由 NVIDIA NIM 签发——在哪里获取。

API key 配置与排错

官方配置指南(核对日期:2026-10-24)

按下方官方指南创建密钥,然后运行此命令并在提示中粘贴密钥。OHarness 会将其保存在凭据存储中。进程环境变量中的密钥优先于已保存的密钥。

oharness auth login nvidia

NVIDIA_API_KEY 是环境变量,不是 config.json 的顶层字段。覆盖端点时,将下方 providers 配置合并到 ~/.oharness/config.json,保留其他设置。base URL 不应包含 /chat/completions。

{
  "providers": {
    "nvidia": {
      "baseUrl": "https://integrate.api.nvidia.com/v1"
    }
  }
}

请求失败时如何排查

  • 401 或 403:读取响应正文,检查当前密钥、账号权限和余额。旧环境变量可能覆盖新保存的密钥。终端 export 仅对当前 shell 及其启动的进程生效。
  • 404:检查端点和服务商控制台中的完整模型 ID。429:重试前检查服务商的速率限制和配额。内置快照中的模型可能已下线。

安装 OHarness · 服务商配置 · 配置文件

NVIDIA NIM 上的模型

NVIDIA NIM 提供的最新的、支持工具调用的模型,数据来自 OHarness 内置的 models.dev 快照。harness 还会向端点获取实时列表,所以这份快照之后发布的模型也会出现在选择器里。

模型 id上下文 / 输出$/M 输入 / 缓存 / 输出推理
z-ai/glm-5.3-flash1M / 131K0 / — / 0是
z-ai/glm-5.31M / 131K0 / — / 0是
deepseek-ai/deepseek-v4-pro-08131M / 384K0 / — / 0是
nvidia/nemotron-3.5-lightning-30b-a3b262K / 262K0 / — / 0是
meta/muse-glimmer-30b131K / 131K0 / — / 0是
deepseek-ai/deepseek-v4-flash-07311M / 384K0 / — / 0是
moonshotai/kimi-k31.05M / 131K0 / — / 0是
thinkingmachines/inkling1.05M / 16K0 / — / 0是
poolside/laguna-xs-2.1262K / 16K0 / — / 0是
z-ai/glm-5.21M / 131K0 / — / 0是

标价单位为美元 / 每 100 万 tokens,于 2026-09-19 读自 models.dev。NVIDIA NIM 的价格和模型会变动,以它自己的定价页为准。用最新的模型开始会话:

oharness -m nvidia/z-ai/glm-5.3-flash

无论选哪家都一样

不管底层是哪家厂商,都是同一个 agent 循环、同一套工具、同一批 MCP 服务器、同一套权限规则——会话中途在它们之间切换,什么都不用转换,因为历史记录从来不以某个厂商的格式存储。什么是 agent harness 讲了为什么这才是难点,厂商参考文档讲了目录本身。

全部 34 家厂商 · 安装 OHarness