Cómo instalar Hermes Agent y conectarlo a Ollama, LM Studio, LiteLLM y el modelo de Apple

Hasta ahora, en esta serie, has usado modelos de inteligencia artificial para conversar. Un agente va un paso más allá: además de responder, puede hacer cosas en tu ordenador para completar una tarea. Buscar información, leer y escribir archivos, ejecutar órdenes o encadenar varios pasos hasta terminar lo que le pides.

Hermes Agent, de Nous Research, es un agente de código abierto y gratuito. Funciona en la terminal (y también tiene una aplicación de escritorio), recuerda lo aprendido entre sesiones y puede usar cualquier modelo compatible con OpenAI: los tuyos de Ollama, LM Studio o LiteLLM.

En esta guía lo instalarás, lo conectarás a tus modelos y verás qué papel puede tener el modelo de Apple que activamos en la guía anterior.

Lo que debes saber antes de empezar

• Un agente actúa, no solo habla. Hermes puede crear, modificar o borrar archivos y ejecutar órdenes. Empieza probándolo en una carpeta de pruebas, lee lo que propone antes de aceptarlo y no le des acceso a documentos importantes hasta que entiendas cómo trabaja.
• Necesita modelos con mucha memoria de contexto. Hermes exige que el modelo tenga una memoria de contexto de al menos 64.000 tokens; si es menor, lo rechaza al arrancar. Esto obliga a ajustar Ollama y LM Studio, y deja fuera al modelo de Apple como modelo principal (lo explicamos más abajo).
• Los modelos pequeños se quedan cortos. Un agente necesita modelos capaces de usar herramientas y de seguir instrucciones largas. En local, cuanto más grande sea el modelo que tu ordenador pueda mover, mejor funcionará. Para tareas serias, un modelo de pago a través de LiteLLM y OpenRouter suele dar mejores resultados.

Requisitos

• Mac: para la aplicación de escritorio se necesita un Mac con chip Apple. La versión de terminal funciona también en otros Mac.
• Windows 10 u 11: Hermes tiene instalador para PowerShell. También puede usarse dentro de WSL 2 (el Linux integrado en Windows).
• Linux: cualquier distribución reciente.
• Git instalado (lo vemos en el paso 1).
• Al menos uno de estos servicios, instalado y funcionando (tienes guías en este blog): Ollama, LM Studio o LiteLLM.

Paso 1. Abrir la terminal e instalar Git

• Mac: pulsa ⌘ + Espacio, escribe «Terminal» y pulsa Intro. Escribe git --version. Si no está instalado, macOS te ofrecerá instalar las «herramientas de línea de comandos»: acepta y espera a que termine.
• Windows: descarga Git desde git-scm.com, instálalo con las opciones por defecto y después abre PowerShell desde el menú Inicio.
• Linux (Ubuntu o Debian): pulsa Ctrl + Alt + T y escribe:

sudo apt install git curl xz-utils

Paso 2. Instalar Hermes Agent

Mac y Linux

Copia esta orden en la terminal y pulsa Intro:

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

Windows

Copia esta orden en PowerShell y pulsa Intro:

iex (irm https://hermes-agent.nousresearch.com/install.ps1)

El instalador se encarga de todo lo que Hermes necesita (su propia versión de Python y otras herramientas), así que tarda unos minutos.

Cuando termine, cierra la terminal y abre una nueva. Después comprueba que todo está en orden:

hermes doctor

Esta orden revisa la instalación y te avisa si falta algo.

Paso 3. Preparar tus modelos para 64.000 tokens

Antes de conectar Hermes, sube la memoria de contexto del modelo que vayas a usar.

Si usas Ollama

• Mac y Windows: abre los ajustes de Ollama y lleva Context length a 64k o más.
• Linux (o si prefieres la terminal): cierra Ollama y arráncalo con:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Elige un modelo que tu ordenador pueda mover con ese contexto. Como orientación: qwen3.5 en equipos de 16 GB, y gpt-oss:20b o qwen3.8 en equipos de 32 GB o más. Comprueba el contexto con ollama ps después de usarlo.

Si usas LM Studio

Carga el modelo con un contexto de 64.000. Desde la aplicación, al cargarlo, sube Context Length a 64000. O desde la terminal:

lms load qwen/qwen3.5-9b --context-length 64000

Recuerda tener el servidor local de LM Studio encendido (pestaña Developer → Start server).

Si usas LiteLLM

LiteLLM no guarda contexto propio: depende del modelo al que envía la petición. Los modelos de OpenRouter suelen tener contextos muy grandes; los de Ollama o LM Studio necesitan el ajuste anterior.

Paso 4. Conectar Hermes con tu modelo

La forma más sencilla es el asistente de configuración. En la terminal, escribe:

hermes model

Se abrirá un menú. Usa las flechas del teclado para moverte y Intro para elegir.

Opción A: Ollama

1. Elige Custom endpoint (self-hosted / VLLM / etc.).
2. En la dirección (base URL), escribe http://localhost:11434/v1.
3. Deja la clave (API key) vacía.
4. Escribe el nombre del modelo tal como aparece en ollama ls, por ejemplo qwen3.5.

Opción B: LM Studio

1. Elige LM Studio en la lista (Hermes lo trae como opción propia).
2. Comprueba que la dirección es http://localhost:1234/v1.
3. Elige el modelo cargado.

Opción C: LiteLLM

1. Elige Custom endpoint (self-hosted / VLLM / etc.).
2. En la dirección, escribe http://localhost:4000/v1.
3. En la clave, pega tu clave maestra de LiteLLM (la que empieza por sk-).
4. Escribe el nombre del modelo tal como lo definiste en el config.yaml de LiteLLM, por ejemplo free-qwen u or-sonnet-5.

LiteLLM es la opción más flexible: desde un único punto, Hermes puede usar tanto tus modelos locales como los de OpenRouter.

Paso 5. Primera prueba

Haz una prueba rápida de una sola pregunta:

hermes chat --oneshot -q "Di hola y dime qué modelo eres"

Si recibes una respuesta, Hermes está conectado a tu modelo.

Para abrir la interfaz completa del agente en la terminal, escribe:

hermes --tui

Verás un encabezado con el proveedor y el modelo que estás usando. Escribe una tarea sencilla para empezar, por ejemplo: «Crea en esta carpeta un archivo llamado notas.txt con una lista de tres ideas para organizar mi semana».

Paso 6. Tener varios modelos a mano

Hermes guarda su configuración en el archivo config.yaml de la carpeta .hermes, dentro de tu carpeta de usuario, y las claves en el archivo .env de esa misma carpeta. Puedes repetir hermes model para añadir más proveedores; el asistente los guarda por ti.

Si prefieres escribirlo a mano, la documentación de Hermes describe una sección providers con una entrada por proveedor. Por ejemplo:

providers:
  ollama:
    api: http://localhost:11434/v1
    default_model: qwen3.5
    context_length: 64000
  lmstudio:
    api: http://localhost:1234/v1
    default_model: qwen/qwen3.5-9b
    context_length: 64000
  litellm:
    api: http://localhost:4000/v1
    key_env: LITELLM_API_KEY
    default_model: free-qwen
    context_length: 64000

Y en el archivo .env, la clave de LiteLLM:

LITELLM_API_KEY=sk-mi-centralita-8f3k29dq7w

Dentro de una sesión de Hermes, cambias de modelo con la orden /model. Por ejemplo, /model custom:litellm:or-sonnet-5 usa el modelo or-sonnet-5 del proveedor litellm.

¿Y el modelo de Apple?

En la guía anterior activamos el modelo de Apple Intelligence con fm serve. Técnicamente, Hermes podría conectarse a él como a cualquier otro servicio compatible con OpenAI (dirección http://localhost:1976/v1, modelo system). Pero no funciona como modelo principal de Hermes: el modelo de Apple tiene una memoria de contexto de 4.096 tokens, y Hermes exige un mínimo de 64.000. Al arrancar, Hermes lo rechazará.

Por eso, el reparto recomendado es:

• Hermes con un modelo grande: local (Ollama o LM Studio con 64.000 de contexto) o en la nube a través de LiteLLM.
• El modelo de Apple para tareas cortas desde Open WebUI: resumir, extraer datos o reescribir textos.

Si en el futuro Apple amplía la memoria de su modelo, bastará con añadirlo como un proveedor más con los mismos pasos.

Mantener Hermes al día

Hermes se actualiza a menudo. Para instalar la última versión:

hermes update

Y si algún día quieres desinstalarlo:

hermes uninstall

Problemas frecuentes

• «hermes: command not found». Cierra la terminal y abre una nueva. En Mac, si sigue igual, ejecuta source ~/.zshrc; en Linux, source ~/.bashrc.
• Hermes rechaza el modelo al arrancar por falta de contexto. El modelo tiene menos de 64.000 tokens de contexto. Revisa el paso 3 y confirma con ollama ps o en LM Studio el contexto real.
• No conecta con Ollama o LM Studio. Comprueba que están abiertos: en el navegador, http://localhost:11434 debe decir «Ollama is running» y http://localhost:1234/v1/models debe listar tus modelos de LM Studio.
• Error de autenticación con LiteLLM. La clave debe ser exactamente tu clave maestra de LiteLLM, que empieza por sk-.
• El agente va muy lento o se equivoca a menudo. El modelo es pequeño para este trabajo o tu ordenador va justo de memoria. Prueba un modelo mayor, o uno de pago a través de LiteLLM.
• Algo no funciona y no sabes por qué. Ejecuta hermes doctor: revisa la instalación y la configuración y te indica qué falla.

Lo que has montado

Con esta guía completas el bloque de inteligencia artificial de la serie: tienes modelos locales con LM Studio y Ollama, una centralita con LiteLLM, una interfaz web con Open WebUI, un editor con IA en Cursor, el modelo de Apple integrado en tu Mac y un agente, Hermes, capaz de trabajar con todos ellos. Todo bajo tu control y, en su mayor parte, dentro de tu propio ordenador.

En la última guía montarás un servidor en casa, encendido a todas horas y accesible desde cualquier lugar, donde reunir todo esto.

Siguiente guía: Cómo montar tu propio home server con Ubuntu Server y acceder a él desde cualquier lugar con Tailscale