vLLM: configuração do endpoint local

Seu próprio servidor vLLM. Roda na sua própria máquina, então não há chave nem nada a pagar.

O que o harness já sabe

Id do provedorvllm
URL basehttp://localhost:8000/v1
ProtocoloChat completions compatível com OpenAI
Chave de APINenhuma — o endpoint é local.
Descoberta de modelosSim — a lista de modelos é pedida ao endpoint em vez de vir embutida.

Como conectar

Nada a configurar e nenhuma chave a obter. Inicie o servidor na porta de costume, e o provedor aparece no seletor de modelos; o harness pede a ele a própria lista de modelos em vez de trazer uma embutida.

Apontando para outro lugar

Um host regional, um gateway ou um servidor seu. As sobrescritas em ~/.oharness/config.json são por campo, então mudar o endpoint não significa repetir o resto do provedor — este é o bloco inteiro, mostrado com o valor padrão para deixar o formato claro:

{
  "providers": {
    "vllm": {
      "baseUrl": "http://localhost:8000/v1"
    }
  }
}

O que você tem de qualquer forma

O mesmo loop do agente, as mesmas ferramentas, os mesmos servidores MCP e as mesmas regras de permissão, qualquer que seja o provedor por baixo — e trocar entre eles no meio da sessão não converte nada, porque o histórico nunca é guardado no formato de um fornecedor. O que é um harness de agentes explica por que essa é a parte difícil, e a referência de provedores cobre o próprio catálogo.

Todos os 34 provedores · Instalar o OHarness