Groq: API-Schlüssel und Base-URL
Inferenz mit sehr niedriger Latenz. Sie nutzen Ihren eigenen Schlüssel; wir stellen nichts in Rechnung.
Was das Harness bereits weiß
| Anbieter-ID | groq |
| Base-URL | https://api.groq.com/openai/v1 |
| Protokoll | OpenAI-kompatible Chat Completions |
| API-Schlüssel | GROQ_API_KEY |
| Modellerkennung | Ja — die Modellliste wird beim Endpunkt erfragt statt mitgeliefert. |
Anbinden
Der Endpunkt oben ist eingebaut, es gibt also nichts zu konfigurieren. Legen Sie den Schlüssel in der Umgebung ab, und der Anbieter erscheint in der Modellauswahl:
export GROQ_API_KEY="..."Schlüssel werden von Groq ausgegeben — hier erhalten Sie einen.
Modelle bei Groq
Die neuesten Modelle mit Tool-Aufrufen, die Groq bereitstellt, aus dem models.dev-Snapshot, den OHarness mitliefert. Das Harness fragt den Endpunkt außerdem nach seiner aktuellen Liste, sodass auch ein Modell, das nach diesem Snapshot erschienen ist, in der Auswahl auftaucht.
| Modell-ID | Kontext / Ausgabe | $/M Eingabe / Cache / Ausgabe | Reasoning |
|---|---|---|---|
qwen/qwen3.8-27b | 131K / 16K | 0.8 / — / 4 | Ja |
qwen/qwen3.6-27b | 131K / 16K | 0.6 / 0.3 / 3 | Ja |
openai/gpt-oss-safeguard-20b | 131K / 66K | 0.075 / — / 0.3 | Ja |
openai/gpt-oss-120b | 131K / 66K | 0.15 / 0.075 / 0.6 | Ja |
openai/gpt-oss-20b | 131K / 66K | 0.075 / 0.0375 / 0.3 | Ja |
llama-3.3-70b-versatile | 131K / 33K | 0.59 / — / 0.79 | Nein |
llama-3.1-8b-instant | 131K / 131K | 0.05 / — / 0.08 | Nein |
Listenpreise in US-Dollar pro Million Tokens, von models.dev abgerufen am 2026-09-19. Groq ändert Preise und Modelle; maßgeblich ist die eigene Preisseite des Anbieters. Starten Sie eine Sitzung mit dem neuesten Modell:
oharness -m groq/qwen/qwen3.8-27bAuf einen anderen Endpunkt verweisen
Ein regionaler Host, ein Gateway oder ein eigener Server. Overrides in ~/.oharness/config.json gelten pro Feld, ein anderer Endpunkt bedeutet also nicht, den Rest des Anbieters neu anzugeben — das ist der vollständige Block, hier mit dem Standardwert, damit der Aufbau klar ist:
{
"providers": {
"groq": {
"baseUrl": "https://api.groq.com/openai/v1"
}
}
}Was Sie in jedem Fall bekommen
Dieselbe Agent-Schleife, dieselben Tools, dieselben MCP-Server und dieselben Berechtigungsregeln, egal welcher Anbieter darunter liegt — und ein Wechsel mitten in der Sitzung konvertiert nichts, weil der Verlauf nie im Format eines Anbieters gespeichert wird. Was ein Agent-Harness ist erklärt, warum das der schwierige Teil ist, und die Anbieter-Referenz behandelt den Katalog selbst.