vLLM: configurazione dell'endpoint locale
Il tuo server vLLM. Gira sulla tua macchina, quindi non c'è nessuna chiave e niente da pagare.
Cosa sa già l'harness
| Id del fornitore | vllm |
| URL di base | http://localhost:8000/v1 |
| Protocollo | Chat completions compatibili con OpenAI |
| Chiave API | Nessuna: l'endpoint è locale. |
| Rilevamento dei modelli | Sì: l'elenco dei modelli viene chiesto all'endpoint invece di essere incluso nel pacchetto. |
Come collegarlo
Niente da configurare e nessuna chiave da ottenere. Avvia il server sulla sua porta abituale e il fornitore compare nel selettore dei modelli; l'harness gli chiede il suo elenco di modelli invece di includerne uno nel pacchetto.
Puntarlo altrove
Un host regionale, un gateway o un tuo server. Gli override in ~/.oharness/config.json valgono a livello di campo, quindi cambiare l'endpoint non significa riscrivere il resto del fornitore. Questo è il blocco completo, mostrato con il valore predefinito per rendere chiara la struttura:
{
"providers": {
"vllm": {
"baseUrl": "http://localhost:8000/v1"
}
}
}Cosa ottieni in ogni caso
Lo stesso ciclo dell'agente, gli stessi strumenti, gli stessi server MCP e le stesse regole di permesso, qualunque fornitore ci sia sotto; e passare dall'uno all'altro a metà sessione non converte nulla, perché la cronologia non viene mai salvata nel formato di un fornitore. Cos'è un harness per agenti spiega perché questa è la parte difficile, e il riferimento sui fornitori tratta il catalogo stesso.