Toolbox Design/Guides

Installer et configurer LiteLLM pour réunir tous vos modèles d'IA

Un guide pas à pas, sans connaissances préalables, pour installer LiteLLM sur Mac, Windows ou Linux et utiliser vos modèles Ollama, LM Studio et cloud comme OpenRouter avec une seule adresse et une seule clé.

Publié24 septembre 2026
GratuitTélécharger en PDF

Ressources gratuites

Créez un compte gratuit pour télécharger

Les guides PDF et les autres ressources gratuites se téléchargent avec un compte. Il est gratuit et il suffit de votre adresse e-mail.

Créer un compte gratuitJ'ai déjà un compte

Quand on commence à utiliser des modèles d'intelligence artificielle, on se retrouve vite avec plusieurs endroits différents : des modèles dans Ollama, d'autres dans LM Studio et peut-être un dans le cloud, comme OpenRouter. Chacun a sa propre adresse et sa propre façon de se connecter.

LiteLLM remet de l'ordre. C'est un programme gratuit qui fonctionne comme un standard téléphonique : vos applications se connectent uniquement à LiteLLM, avec une seule adresse et une seule clé, et LiteLLM transmet chaque requête au bon modèle, où qu'il se trouve.

Dans ce guide, vous allez installer LiteLLM, le relier à Ollama, à LM Studio et à un modèle gratuit d'OpenRouter, puis vérifier que tout répond. Inutile de savoir programmer : nous vous disons exactement quoi taper.

Ce que vous allez obtenir

À la fin, vous aurez :

  • LiteLLM qui fonctionne sur votre ordinateur à l'adresse http://localhost:4000.
  • Une clé maître qui protège l'accès.
  • Une liste de modèles aux noms simples choisis par vous, par exemple gemma-local ou qwen-gratuit, utilisable par toute application compatible.

Ce standard est la base des guides suivants de la série : Open WebUI (une interface web pour discuter avec tous vos modèles) et Cursor (un éditeur de code avec IA).

Avant de commencer

  • Un ordinateur sous Mac, Windows 10/11 ou Linux.
  • Une connexion Internet pour l'installation.
  • Au moins l'un de ces services, selon les modèles que vous voulez utiliser :
  • Ollama installé avec un modèle téléchargé (un guide est disponible sur ce blog).
  • LM Studio avec son serveur local activé (il a aussi son guide).
  • Un compte gratuit OpenRouter, si vous voulez utiliser des modèles cloud.

Pas besoin des trois : un seul suffit pour suivre le guide.

Étape 1. Ouvrir le terminal

Vous allez taper quelques commandes dans le terminal. Il suffit de copier-coller.

  • Mac : appuyez sur ⌘ + Espace, tapez « Terminal » et appuyez sur Entrée.
  • Windows : ouvrez le menu Démarrer, tapez « PowerShell » et appuyez sur Entrée.
  • Linux : appuyez sur Ctrl + Alt + T.

Pour coller dans le terminal : ⌘ + V sur Mac, clic droit ou Ctrl + V dans PowerShell, et Ctrl + Maj + V sur Linux.

Étape 2. Installer uv, l'installateur

LiteLLM est écrit en Python. Plutôt que d'installer Python à la main, nous utiliserons uv, un outil qui s'occupe de tout et évite les problèmes de versions.

Mac et Linux

Copiez cette commande dans le terminal et appuyez sur Entrée :

bash
curl -LsSf https://astral.sh/uv/install.sh | sh

Windows

Copiez cette commande dans PowerShell et appuyez sur Entrée :

powershell
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

À la fin, fermez le terminal et ouvrez-en un nouveau pour qu'il reconnaisse l'outil installé. Vérifiez qu'il fonctionne :

bash
uv --version

Un numéro de version doit s'afficher.

Étape 3. Installer LiteLLM

Tapez cette commande (identique sur Mac, Windows et Linux) :

bash
uv tool install 'litellm[proxy]'

L'installation prend une ou deux minutes. Ensuite, fermez le terminal, ouvrez-en un nouveau et vérifiez que le programme répond :

bash
litellm --help

Si une liste d'options s'affiche, LiteLLM est installé.

Étape 4. Créer le dossier de LiteLLM

Nous rangerons la configuration dans un dossier dédié appelé litellm, dans votre dossier utilisateur.

Mac et Linux

bash
mkdir -p ~/litellm
cd ~/litellm

Windows

powershell
mkdir $HOME\litellm
cd $HOME\litellm

Désormais, chaque fois que vous ouvrez un terminal pour utiliser LiteLLM, entrez d'abord dans ce dossier avec cd ~/litellm (Mac et Linux) ou cd $HOME\litellm (Windows).

Étape 5. Préparer vos clés

La clé maître

LiteLLM demande une clé maître : un mot de passe que devront utiliser toutes les applications qui s'y connectent. Elle doit commencer par sk-. Inventez-en une longue, par exemple :

text
sk-mon-standard-8f3k29dq7w

Conservez-la en lieu sûr : vous en aurez besoin dans les guides suivants.

La clé OpenRouter (facultatif)

Si vous voulez utiliser des modèles cloud gratuits :

  1. Allez sur openrouter.ai et créez un compte.
  2. Allez sur openrouter.ai/settings/keys et cliquez sur Create Key.
  3. Donnez-lui un nom (par exemple « LiteLLM ») et, si c'est proposé, fixez une limite de crédit : vous ne dépenserez jamais plus que prévu.
  4. Copiez la clé affichée (elle commence par sk-or-). Elle n'apparaît qu'une fois.
Capture : la page des clés d'OpenRouter avec le bouton Create Key

Les modèles gratuits d'OpenRouter se terminent par :free. Ils ont des limites : 20 requêtes par minute et 50 par jour (1 000 par jour si vous avez déjà acheté au moins 10 crédits). Vous pouvez voir lesquels existent sur openrouter.ai/models, en filtrant par prix gratuit. La liste change souvent.

Étape 6. Écrire le fichier de configuration

La configuration de LiteLLM est un fichier texte appelé config.yaml. Créons-le avec un éditeur simple.

Mac et Linux

Dans le dossier litellm, tapez :

bash
nano config.yaml

L'éditeur nano s'ouvre dans le terminal.

Windows

Dans le dossier litellm, tapez :

powershell
notepad config.yaml

Le Bloc-notes demande s'il faut créer le fichier : cliquez sur Oui.

Le contenu

Copiez ce texte dans l'éditeur, puis modifiez ce qui est indiqué plus bas.

yaml
model_list:
  - model_name: gemma-local
    litellm_params:
      model: ollama_chat/gemma3
      api_base: http://localhost:11434

  - model_name: lmstudio-gemma
    litellm_params:
      model: lm_studio/google/gemma-3-4b
      api_base: http://localhost:1234/v1

  - model_name: qwen-gratuit
    litellm_params:
      model: openrouter/qwen/qwen3.8-27b:free
      api_key: sk-or-COLLEZ-ICI-VOTRE-CLE-OPENROUTER

general_settings:
  master_key: sk-mon-standard-8f3k29dq7w

Ce que signifie chaque partie :

  • model_list est la liste des modèles que propose votre standard. Chaque modèle commence par un tiret.
  • model_name est le nom que verront vos applications. Choisissez ce que vous voulez, sans espaces.
  • model indique où se trouve le vrai modèle : ollama_chat/ pour Ollama, lm_studio/ pour LM Studio et openrouter/ pour OpenRouter, suivi du nom exact du modèle sur ce service.
  • api_base est l'adresse du service : http://localhost:11434 pour Ollama et http://localhost:1234/v1 pour LM Studio.
  • api_key est la clé du service, quand il en faut une.
  • master_key est votre clé maître.

Adaptez-le maintenant :

  1. Remplacez sk-mon-standard-8f3k29dq7w par votre clé maître.
  2. Dans le modèle OpenRouter, remplacez sk-or-COLLEZ-ICI-VOTRE-CLE-OPENROUTER par votre clé OpenRouter. Si vous n'utilisez pas OpenRouter, supprimez tout le bloc qwen-gratuit (ses quatre lignes).
  3. Dans le modèle Ollama, gemma3 doit être un modèle que vous avez téléchargé. Vous pouvez les lister avec ollama ls. Si vous n'utilisez pas Ollama, supprimez le bloc gemma-local.
  4. Dans le modèle LM Studio, google/gemma-3-4b doit correspondre à l'identifiant donné par LM Studio. Pour le voir, serveur allumé, ouvrez http://localhost:1234/v1/models dans le navigateur et copiez la valeur de "id". Si vous n'utilisez pas LM Studio, supprimez le bloc lmstudio-gemma.

Enregistrez le fichier :

  • nano (Mac et Linux) : appuyez sur Ctrl + O, puis Entrée, et quittez avec Ctrl + X.
  • Bloc-notes (Windows) : Fichier → Enregistrer puis fermez la fenêtre.

Étape 7. Démarrer LiteLLM

Avant de démarrer, vérifiez que les services indiqués dans la configuration fonctionnent : Ollama ouvert et, si vous l'utilisez, le serveur de LM Studio allumé.

Dans le terminal, depuis le dossier litellm, tapez :

bash
litellm --config config.yaml

Après quelques secondes, plusieurs lignes s'affichent. Ces deux-là sont les importantes : la première confirme qu'il a lu votre configuration, la seconde qu'il accepte les requêtes.

text
LiteLLM: Proxy initialized with Config, Set models:
Uvicorn running on http://0.0.0.0:4000 (Press CTRL+C to quit)

LiteLLM fonctionne. Ne fermez pas cette fenêtre : si vous la fermez, LiteLLM s'arrête. Pour l'arrêter volontairement, appuyez sur Ctrl + C dans cette fenêtre.

Capture : terminal avec LiteLLM démarré affichant « Uvicorn running on http://0.0.0.0:4000 »

Étape 8. Vérifier que tout fonctionne

Ouvrez une deuxième fenêtre de terminal (laissez la première ouverte). Remplacez sk-mon-standard-8f3k29dq7w par votre clé maître dans les commandes suivantes.

Voir la liste des modèles

Sur Mac et Linux :

bash
curl http://localhost:4000/v1/models -H "Authorization: Bearer sk-mon-standard-8f3k29dq7w"

Sur Windows (notez qu'on tape curl.exe) :

powershell
curl.exe http://localhost:4000/v1/models -H "Authorization: Bearer sk-mon-standard-8f3k29dq7w"

Vous devriez voir un texte contenant le nom de vos modèles : gemma-local, lmstudio-gemma, qwen-gratuit.

Poser une question

Sur Mac et Linux :

bash
curl http://localhost:4000/v1/chat/completions -H "Authorization: Bearer sk-mon-standard-8f3k29dq7w" -H "Content-Type: application/json" -d '{"model": "gemma-local", "messages": [{"role": "user", "content": "Bonjour, présente-toi en une phrase"}]}'

Sur Windows :

powershell
Invoke-RestMethod -Uri http://localhost:4000/v1/chat/completions -Method Post -Headers @{Authorization = "Bearer sk-mon-standard-8f3k29dq7w"} -ContentType "application/json" -Body '{"model": "gemma-local", "messages": [{"role": "user", "content": "Bonjour, presente-toi en une phrase"}]}'

Si vous recevez une réponse avec le texte du modèle, votre standard fonctionne. Remplacez gemma-local par qwen-gratuit ou lmstudio-gemma pour vérifier les autres.

Comment vos applications l'utiliseront

Toute application compatible OpenAI pourra utiliser tous vos modèles avec ces deux informations :

  • Adresse (URL de base) : http://localhost:4000/v1
  • Clé (API key) : votre clé maître.

Dans le navigateur, http://localhost:4000 affiche aussi la documentation technique de l'API.

Ajouter d'autres modèles

Pour ajouter un modèle, rouvrez config.yaml, copiez l'un des blocs qui commencent par - model_name:, collez-le à la fin de la liste (avant general_settings) et changez le nom et le modèle. Arrêtez ensuite LiteLLM avec Ctrl + C et relancez-le avec litellm --config config.yaml.

Facultatif : tableau de bord et clés par application

LiteLLM propose un tableau de bord d'administration sur http://localhost:4000/ui et permet de créer des clés virtuelles : une clé différente par application ou par personne, avec des limites de dépense. Les deux nécessitent une base de données PostgreSQL et dépassent donc ce guide pour débutants. Si vous en avez besoin plus tard, le plus simple est l'installation avec Docker décrite dans la documentation officielle de LiteLLM.

Le laisser tourner en permanence

Avec cette installation, LiteLLM fonctionne tant que la fenêtre du terminal est ouverte. Pour un usage quotidien, cela suffit souvent : vous ouvrez le terminal, entrez dans le dossier et le lancez. Pour qu'il démarre avec l'ordinateur, les options habituelles sont de l'exécuter avec Docker ou de l'enregistrer comme service système, ce que nous verrons dans un autre guide.

Problèmes fréquents

  • « litellm: command not found » ou « n'est pas reconnu ». Fermez le terminal et ouvrez-en un nouveau après l'installation. Si cela persiste, lancez uv tool update-shell, puis fermez et rouvrez.
  • Erreur de lecture de config.yaml. C'est presque toujours l'indentation : vérifiez que chaque ligne a les mêmes espaces que l'exemple et qu'il n'y a pas de tabulations.
  • « No connected db », « 401 » ou « Authentication Error ». La clé utilisée ne correspond pas à la master_key du fichier : LiteLLM la prend pour une clé virtuelle, qui exige une base de données. Recopiez la clé maître ; rappel : elle doit commencer par sk-.
  • Le modèle Ollama ou LM Studio ne répond pas. Vérifiez que le programme est ouvert, que le modèle est téléchargé et que le nom dans config.yaml est exactement le même.
  • Le modèle OpenRouter renvoie une erreur de limite. Vous avez dépassé les requêtes gratuites de la minute ou du jour. Patientez ou essayez un autre modèle :free.
  • « Address already in use ». Un autre programme utilise le port 4000. Lancez LiteLLM sur un autre port avec litellm --config config.yaml --port 4001 et utilisez cette adresse dans vos applications.

Et ensuite

Votre standard est prêt. Dans le guide suivant, vous installerez Open WebUI, une interface web façon ChatGPT, et la relierez à LiteLLM pour discuter avec tous vos modèles depuis le navigateur.

Guide suivant: Installer Open WebUI et utiliser vos modèles LiteLLM depuis le navigateur