Usar un agente de código IA sin conexión con Ollama o LM Studio

Instala OHarness, inicia Ollama (puerto 11434) o el servidor de LM Studio (puerto 1234) y ejecuta oharness -m ollama/<model>. Ambos runtimes son proveedores integrados que no necesitan clave, así que todas las solicitudes al modelo se quedan en tu equipo.

Actualizado el

Qué necesitas

  • Node 22.6 o posterior, para la CLI.
  • Ollama o LM Studio, con un modelo que admita llamadas a herramientas. Un agente que no puede llamar a herramientas solo puede hablar de tu código.
  • Memoria suficiente para el modelo. Un modelo de código de 20–30B es el mínimo práctico para trabajo de agente; los modelos más pequeños responden, pero pierden el hilo en ediciones de varios pasos.

Configúralo con Ollama

  1. Instala la CLI.
  2. Descarga un modelo que llame a herramientas, por ejemplo qwen3-coder:30b o gpt-oss:20b.
  3. Inicia el agente con él. Lo que va antes de la primera barra es el proveedor; el resto es el nombre del modelo tal como lo lista Ollama.
npm install -g oharness
ollama pull qwen3-coder:30b
oharness -m ollama/qwen3-coder:30b

No hay clave ni nada que configurar: el proveedor ollama apunta a http://localhost:11434/v1 y pide al servidor su lista de modelos, así que todo lo que hayas descargado aparece en /models.

Configúralo con LM Studio

Carga un modelo en LM Studio e inicia su servidor local (la pestaña Developer, o lms server start). Los ids de modelo de LM Studio tienen su propia barra, y no pasa nada: solo la primera barra separa el proveedor:

oharness -m lmstudio/qwen/qwen3-coder-30b

Dale al modelo contexto suficiente

Las sesiones de agente son largas: cada archivo leído y cada resultado de herramienta vuelve al contexto. Ollama sirve un contexto mucho más corto del que admiten la mayoría de los modelos salvo que lo aumentes, y cuando un servidor local no informa de su ventana, OHarness supone 128K, así que la compactación salta más tarde de lo que el servidor trunca en realidad. Aumenta la ventana del servidor antes de una sesión larga:

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

En LM Studio, el mismo ajuste es el control deslizante de longitud de contexto al cargar el modelo. 32K es un mínimo viable para trabajo de agente; más es mejor si la memoria lo permite.

Qué sigue usando la red

TráficoCuándoCómo desactivarlo
Solicitudes al modeloNunca: van a localhost—
Comprobación de actualizacionesComo mucho una vez al día, al registro de npmOHARNESS_NO_UPDATE_CHECK=1
Sincronización de sesionesSolo con la sesión iniciada en una cuenta de OHarnessNo inicies sesión, o /sync off
Servidores MCPSolo los que configuresUsa servidores stdio, o ninguno

Cuándo un modelo local no es la opción adecuada

Los modelos locales son gratis por token y privados, y están por detrás de los mejores modelos alojados en cambios largos que afectan a varios archivos. Un reparto razonable: local para explorar, leer y hacer ediciones pequeñas; un modelo alojado para la refactorización grande, activado en la misma sesión con /model, que no convierte nada. Cambiar de modelo a mitad de sesión explica cómo.

Preguntas frecuentes

¿Un agente de código IA puede funcionar completamente sin conexión?

Sí. Con OHarness conectado a Ollama o LM Studio, el bucle del agente, las herramientas y el modelo se ejecutan en tu equipo. El único tráfico adicional es una comprobación diaria de actualizaciones en npm, que OHARNESS_NO_UPDATE_CHECK=1 desactiva, y la sincronización, que solo funciona si inicias sesión.

¿Qué modelos locales sirven para un agente de código?

Modelos que admitan llamadas a herramientas, idealmente de 20–30B parámetros o más. Funcionan tanto modelos ajustados para código, como Qwen3-Coder, como modelos generales, como gpt-oss; los modelos sin llamadas a herramientas pueden responder preguntas, pero no editar archivos ni ejecutar comandos.

¿Necesito una clave API para usar OHarness con Ollama?

No. Los proveedores ollama y lmstudio no necesitan clave y vienen integrados, apuntando a localhost:11434 y localhost:1234. Inicia el servidor y ejecuta oharness -m ollama/<model>.

¿Por qué una sesión larga con un modelo local olvida el trabajo anterior?

Normalmente, porque la ventana de contexto del servidor es más pequeña que la del modelo. Ollama sirve una ventana corta por defecto; auméntala con OLLAMA_CONTEXT_LENGTH (o num_ctx), y la compactación de OHarness resumirá en un punto seguro en lugar de que el servidor trunque en silencio.

Relacionado