Groq: API-nyckel och bas-URL
Inferens med mycket låg latens. Använd din egen nyckel; vi debiterar ingenting.
Det harnessen redan vet
| Leverantörs-id | groq |
| Bas-URL | https://api.groq.com/openai/v1 |
| Protokoll | OpenAI-kompatibla chat completions |
| API-nyckel | GROQ_API_KEY |
| Modellupptäckt | Ja — modellistan efterfrågas hos endpointen i stället för att skickas med. |
Ansluta den
Endpointen ovan är inbyggd, så det finns inget att konfigurera. Lägg nyckeln i miljön så dyker leverantören upp i modellväljaren:
export GROQ_API_KEY="..."Nycklar utfärdas av Groq — så här får du en.
Modeller på Groq
De nyaste modellerna som Groq erbjuder och som kan anropa verktyg, från den models.dev-ögonblicksbild som följer med OHarness. Harnessen frågar också endpointen efter dess aktuella lista, så en modell som släppts efter ögonblicksbilden dyker ändå upp i väljaren.
| Modell-id | Kontext / utdata | $/M in / cachad / ut | Resonemang |
|---|---|---|---|
qwen/qwen3.8-27b | 131K / 16K | 0.8 / — / 4 | Ja |
qwen/qwen3.6-27b | 131K / 16K | 0.6 / 0.3 / 3 | Ja |
openai/gpt-oss-safeguard-20b | 131K / 66K | 0.075 / — / 0.3 | Ja |
openai/gpt-oss-120b | 131K / 66K | 0.15 / 0.075 / 0.6 | Ja |
openai/gpt-oss-20b | 131K / 66K | 0.075 / 0.0375 / 0.3 | Ja |
llama-3.3-70b-versatile | 131K / 33K | 0.59 / — / 0.79 | Nej |
llama-3.1-8b-instant | 131K / 131K | 0.05 / — / 0.08 | Nej |
Listpriser i USD per miljon tokens, lästa från models.dev den 2026-09-19. Groq ändrar sina priser och modeller; dess egen prissida är det som gäller. Starta en session med den nyaste:
oharness -m groq/qwen/qwen3.8-27bPeka den någon annanstans
En regional värd, en gateway eller en egen server. Åsidosättningar i ~/.oharness/config.json gäller per fält, så att ändra endpointen betyder inte att du måste ange resten av leverantören igen — det här är hela blocket, visat med standardvärdet så att formen blir tydlig:
{
"providers": {
"groq": {
"baseUrl": "https://api.groq.com/openai/v1"
}
}
}Det du får oavsett
Samma agentloop, samma verktyg, samma MCP-servrar och samma behörighetsregler, vilken leverantör som än ligger under — och att byta mellan dem mitt i en session konverterar ingenting, eftersom historiken aldrig sparas i en leverantörs format. Vad en agent-harness är förklarar varför det är den svåra delen, och referensen för leverantörer går igenom själva katalogen.