Cómo instalar y configurar LiteLLM para reunir todos tus modelos de IA

Cuando empiezas a usar modelos de inteligencia artificial pronto tienes varios sitios distintos: algunos modelos en Ollama, otros en LM Studio y quizá alguno en la nube, como OpenRouter. Cada uno tiene su propia dirección y su propia forma de conectarse.

LiteLLM resuelve ese desorden. Es un programa gratuito que funciona como una centralita: tus aplicaciones se conectan solo a LiteLLM, con una única dirección y una única clave, y LiteLLM reparte cada petición al modelo que corresponda, esté donde esté.

En esta guía vas a instalar LiteLLM, conectarlo a Ollama, a LM Studio y a un modelo gratuito de OpenRouter, y comprobar que todo responde. No necesitas saber programar: te diremos exactamente qué escribir.

Qué vas a conseguir

Al terminar tendrás:

• LiteLLM funcionando en tu ordenador en la dirección http://localhost:4000.
• Una clave maestra que protege el acceso.
• Una lista de modelos con nombres sencillos elegidos por ti, por ejemplo gemma-local o qwen-gratis, que cualquier aplicación compatible podrá usar.

Esta centralita es la base de las siguientes guías de la serie: Open WebUI (una interfaz web para conversar con todos tus modelos) y Cursor (un editor de código con IA).

Antes de empezar

• Un ordenador con Mac, Windows 10/11 o Linux.
• Conexión a Internet para la instalación.
• Al menos uno de estos servicios, según los modelos que quieras usar:
• Ollama instalado y con un modelo descargado (tienes una guía en este mismo blog).
• LM Studio con el servidor local activado (también tienes su guía).
• Una cuenta gratuita en OpenRouter, si quieres usar modelos en la nube.

No hace falta tener los tres: basta con uno para seguir la guía.

Paso 1. Abrir la terminal

Vas a escribir algunas órdenes en la terminal. Solo tienes que copiar y pegar.

• Mac: pulsa ⌘ + Espacio, escribe «Terminal» y pulsa Intro.
• Windows: abre el menú Inicio, escribe «PowerShell» y pulsa Intro.
• Linux: pulsa Ctrl + Alt + T.

Para pegar en la terminal: ⌘ + V en Mac, clic derecho o Ctrl + V en PowerShell, y Ctrl + Mayús + V en Linux.

Paso 2. Instalar uv, el instalador

LiteLLM está escrito en Python. En lugar de instalar Python a mano, usaremos uv, una herramienta que se encarga de todo y evita los problemas de versiones.

Mac y Linux

Copia esta orden en la terminal y pulsa Intro:

curl -LsSf https://astral.sh/uv/install.sh | sh

Windows

Copia esta orden en PowerShell y pulsa Intro:

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

Cuando termine, cierra la terminal y abre una nueva, para que reconozca la herramienta recién instalada. Comprueba que funciona:

uv --version

Deberías ver un número de versión.

Paso 3. Instalar LiteLLM

Escribe esta orden (es igual en Mac, Windows y Linux):

uv tool install 'litellm[proxy]'

La instalación tarda uno o dos minutos. Cuando termine, cierra la terminal, abre una nueva y comprueba que el programa responde:

litellm --help

Si ves una lista de opciones, LiteLLM está instalado.

Paso 4. Crear la carpeta de LiteLLM

Guardaremos la configuración en una carpeta propia llamada litellm, dentro de tu carpeta de usuario.

Mac y Linux

mkdir -p ~/litellm
cd ~/litellm

Windows

mkdir $HOME\litellm
cd $HOME\litellm

A partir de ahora, cada vez que abras una terminal para usar LiteLLM, entra primero en esta carpeta con cd ~/litellm (Mac y Linux) o cd $HOME\litellm (Windows).

Paso 5. Preparar tus claves

La clave maestra

LiteLLM pide una clave maestra: una contraseña que deberán usar todas las aplicaciones que se conecten. Tiene que empezar por sk-. Invéntate una larga, por ejemplo:

sk-mi-centralita-8f3k29dq7w

Guárdala en un lugar seguro: la necesitarás en las siguientes guías.

La clave de OpenRouter (opcional)

Si quieres usar modelos gratuitos de la nube:

1. Entra en openrouter.ai y crea una cuenta.
2. Ve a openrouter.ai/settings/keys y pulsa Create Key.
3. Dale un nombre (por ejemplo, «LiteLLM») y, si te lo ofrece, pon un límite de crédito: así nunca gastarás más de lo previsto.
4. Copia la clave que aparece (empieza por sk-or-). Solo se muestra una vez.

Los modelos gratuitos de OpenRouter terminan en :free. Tienen límites: 20 peticiones por minuto y 50 al día (1.000 al día si alguna vez has comprado al menos 10 créditos). Puedes ver cuáles hay en openrouter.ai/models, filtrando por precio gratuito. La lista cambia a menudo.

Paso 6. Escribir el archivo de configuración

La configuración de LiteLLM es un archivo de texto llamado config.yaml. Vamos a crearlo con un editor sencillo.

Mac y Linux

Dentro de la carpeta litellm, escribe:

nano config.yaml

Se abrirá el editor nano dentro de la terminal.

Windows

Dentro de la carpeta litellm, escribe:

notepad config.yaml

El Bloc de notas te preguntará si quieres crear el archivo: pulsa Sí.

El contenido

Copia este texto en el editor. Después cambia lo que se indica debajo.

model_list:
  - model_name: gemma-local
    litellm_params:
      model: ollama_chat/gemma3
      api_base: http://localhost:11434

  - model_name: lmstudio-gemma
    litellm_params:
      model: lm_studio/google/gemma-3-4b
      api_base: http://localhost:1234/v1

  - model_name: qwen-gratis
    litellm_params:
      model: openrouter/qwen/qwen3.8-27b:free
      api_key: sk-or-PEGA-AQUI-TU-CLAVE-DE-OPENROUTER

general_settings:
  master_key: sk-mi-centralita-8f3k29dq7w

Qué significa cada parte:

• model_list es la lista de modelos que ofrecerá tu centralita. Cada modelo empieza con un guion.
• model_name es el nombre que verán tus aplicaciones. Puedes poner el que quieras, sin espacios.
• model indica dónde está el modelo de verdad: ollama_chat/ para Ollama, lm_studio/ para LM Studio y openrouter/ para OpenRouter, seguido del nombre exacto del modelo en ese servicio.
• api_base es la dirección del servicio: http://localhost:11434 para Ollama y http://localhost:1234/v1 para LM Studio.
• api_key es la clave del servicio, cuando la necesita.
• master_key es tu clave maestra.

Ahora adáptalo:

1. Cambia sk-mi-centralita-8f3k29dq7w por tu clave maestra.
2. En el modelo de OpenRouter, cambia sk-or-PEGA-AQUI-TU-CLAVE-DE-OPENROUTER por tu clave de OpenRouter. Si no vas a usar OpenRouter, borra el bloque completo de qwen-gratis (sus cuatro líneas).
3. En el modelo de Ollama, gemma3 debe ser un modelo que tengas descargado. Puedes verlos con ollama ls. Si no usas Ollama, borra el bloque de gemma-local.
4. En el modelo de LM Studio, google/gemma-3-4b debe coincidir con el identificador que da LM Studio. Para verlo, con su servidor encendido, abre en el navegador http://localhost:1234/v1/models y copia el valor de "id". Si no usas LM Studio, borra el bloque de lmstudio-gemma.

Guarda el archivo:

• nano (Mac y Linux): pulsa Ctrl + O, luego Intro, y sal con Ctrl + X.
• Bloc de notas (Windows): menú Archivo → Guardar y cierra la ventana.

Paso 7. Arrancar LiteLLM

Antes de arrancar, asegúrate de que tienes en marcha los servicios que has puesto en la configuración: Ollama abierto y, si lo usas, el servidor de LM Studio encendido.

En la terminal, dentro de la carpeta litellm, escribe:

litellm --config config.yaml

Tras unos segundos verás varias líneas de texto. Las importantes son estas dos: la primera confirma que ha leído tu configuración y la segunda, que ya acepta peticiones.

LiteLLM: Proxy initialized with Config, Set models:
Uvicorn running on http://0.0.0.0:4000 (Press CTRL+C to quit)

LiteLLM ya está funcionando. No cierres esta ventana: si la cierras, LiteLLM se detiene. Para pararlo a propósito, pulsa Ctrl + C en ella.

Paso 8. Comprobar que funciona

Abre una segunda ventana de terminal (deja la primera abierta). Cambia sk-mi-centralita-8f3k29dq7w por tu clave maestra en las órdenes siguientes.

Ver la lista de modelos

En Mac y Linux:

curl http://localhost:4000/v1/models -H "Authorization: Bearer sk-mi-centralita-8f3k29dq7w"

En Windows (fíjate en que se escribe curl.exe):

curl.exe http://localhost:4000/v1/models -H "Authorization: Bearer sk-mi-centralita-8f3k29dq7w"

Deberías ver un texto que incluye los nombres de tus modelos: gemma-local, lmstudio-gemma, qwen-gratis.

Hacer una pregunta

En Mac y Linux:

curl http://localhost:4000/v1/chat/completions -H "Authorization: Bearer sk-mi-centralita-8f3k29dq7w" -H "Content-Type: application/json" -d '{"model": "gemma-local", "messages": [{"role": "user", "content": "Hola, preséntate en una frase"}]}'

En Windows:

Invoke-RestMethod -Uri http://localhost:4000/v1/chat/completions -Method Post -Headers @{Authorization = "Bearer sk-mi-centralita-8f3k29dq7w"} -ContentType "application/json" -Body '{"model": "gemma-local", "messages": [{"role": "user", "content": "Hola, presentate en una frase"}]}'

Si recibes una respuesta con el texto del modelo, tu centralita funciona. Prueba a cambiar gemma-local por qwen-gratis o lmstudio-gemma para comprobar los demás.

Cómo la usarán tus aplicaciones

Cualquier aplicación compatible con OpenAI podrá usar todos tus modelos con estos dos datos:

• Dirección (URL base): http://localhost:4000/v1
• Clave (API key): tu clave maestra.

En el navegador, http://localhost:4000 muestra además la documentación técnica de la API.

Añadir más modelos

Para añadir un modelo, abre de nuevo config.yaml, copia uno de los bloques que empiezan por - model_name:, pégalo al final de la lista (antes de general_settings) y cambia el nombre y el modelo. Después detén LiteLLM con Ctrl + C y arráncalo otra vez con litellm --config config.yaml.

Opcional: panel web y claves por aplicación

LiteLLM tiene un panel de administración en http://localhost:4000/ui y permite crear claves virtuales: una clave distinta para cada aplicación o persona, con límites de gasto. Ambas cosas necesitan una base de datos PostgreSQL, así que quedan fuera de esta guía para principiantes. Si más adelante las necesitas, la forma más sencilla es la instalación con Docker que explica la documentación oficial de LiteLLM.

Dejarlo funcionando siempre

Con esta instalación, LiteLLM funciona mientras la ventana de la terminal esté abierta. Para uso diario suele bastar: abres la terminal, entras en la carpeta y lo arrancas. Si quieres que arranque solo con el ordenador, las opciones habituales son ejecutarlo con Docker o registrarlo como servicio del sistema, algo más avanzado que cubriremos en otra guía.

Problemas frecuentes

• «litellm: command not found» o «no se reconoce». Cierra la terminal y abre una nueva después de instalar. Si sigue igual, ejecuta uv tool update-shell, cierra y vuelve a abrir.
• Error al leer config.yaml. Casi siempre es la sangría: revisa que cada línea tenga los mismos espacios que el ejemplo y que no haya tabuladores.
• «No connected db», «401» o «Authentication Error». La clave que usas no coincide con la master_key del archivo: LiteLLM la toma por una clave virtual, y esas necesitan base de datos. Copia de nuevo la clave maestra; recuerda que debe empezar por sk-.
• El modelo de Ollama o de LM Studio no responde. Comprueba que el programa está abierto, que el modelo está descargado y que el nombre en config.yaml es exactamente el mismo.
• El modelo de OpenRouter devuelve un error de límite. Has superado las peticiones gratuitas del minuto o del día. Espera o prueba otro modelo :free.
• «Address already in use». Otro programa usa el puerto 4000. Arranca LiteLLM en otro puerto con litellm --config config.yaml --port 4001 y usa esa dirección en tus aplicaciones.

Siguientes pasos

Tu centralita está lista. En la siguiente guía instalarás Open WebUI, una interfaz web al estilo ChatGPT, y la conectarás a LiteLLM para conversar con todos tus modelos desde el navegador.

Siguiente guía: Cómo instalar Open WebUI y usar tus modelos de LiteLLM desde el navegador