Groq: chiave API e URL di base

Inferenza a latenza molto bassa. Usi la tua chiave; noi non addebitiamo nulla.

Cosa sa già l'harness

Id del fornitoregroq
URL di basehttps://api.groq.com/openai/v1
ProtocolloChat completions compatibili con OpenAI
Chiave APIGROQ_API_KEY
Rilevamento dei modelliSì: l'elenco dei modelli viene chiesto all'endpoint invece di essere incluso nel pacchetto.

Come collegarlo

L'endpoint qui sopra è integrato, quindi non c'è nulla da configurare. Metti la chiave nell'ambiente e il fornitore compare nel selettore dei modelli:

export GROQ_API_KEY="..."

Le chiavi sono rilasciate da Groq: dove ottenerne una.

Modelli su Groq

I modelli più recenti serviti da Groq in grado di chiamare strumenti, dallo snapshot di models.dev incluso in OHarness. L'harness chiede anche all'endpoint il suo elenco aggiornato, quindi un modello uscito dopo questo snapshot compare comunque nel selettore.

Id del modelloContesto / output$/M input / cache / outputRagionamento
qwen/qwen3.8-27b131K / 16K0.8 / — / 4Sì
qwen/qwen3.6-27b131K / 16K0.6 / 0.3 / 3Sì
openai/gpt-oss-safeguard-20b131K / 66K0.075 / — / 0.3Sì
openai/gpt-oss-120b131K / 66K0.15 / 0.075 / 0.6Sì
openai/gpt-oss-20b131K / 66K0.075 / 0.0375 / 0.3Sì
llama-3.3-70b-versatile131K / 33K0.59 / — / 0.79No
llama-3.1-8b-instant131K / 131K0.05 / — / 0.08No

Prezzi di listino in USD per milione di token, letti da models.dev il 2026-09-19. Groq cambia prezzi e modelli; fa fede la sua pagina dei prezzi. Avvia una sessione con il più recente:

oharness -m groq/qwen/qwen3.8-27b

Puntarlo altrove

Un host regionale, un gateway o un tuo server. Gli override in ~/.oharness/config.json valgono a livello di campo, quindi cambiare l'endpoint non significa riscrivere il resto del fornitore. Questo è il blocco completo, mostrato con il valore predefinito per rendere chiara la struttura:

{
  "providers": {
    "groq": {
      "baseUrl": "https://api.groq.com/openai/v1"
    }
  }
}

Cosa ottieni in ogni caso

Lo stesso ciclo dell'agente, gli stessi strumenti, gli stessi server MCP e le stesse regole di permesso, qualunque fornitore ci sia sotto; e passare dall'uno all'altro a metà sessione non converte nulla, perché la cronologia non viene mai salvata nel formato di un fornitore. Cos'è un harness per agenti spiega perché questa è la parte difficile, e il riferimento sui fornitori tratta il catalogo stesso.

Tutti i 34 fornitori · Installa OHarness