Installer Hermes Agent et le relier à Ollama, LM Studio, LiteLLM et au modèle d'Apple

Jusqu'ici, dans cette série, vous avez utilisé des modèles d'intelligence artificielle pour discuter. Un agent va plus loin : en plus de répondre, il peut agir sur votre ordinateur pour mener une tâche à bien. Chercher des informations, lire et écrire des fichiers, lancer des commandes ou enchaîner plusieurs étapes jusqu'à terminer ce que vous demandez.

Hermes Agent, de Nous Research, est un agent open source et gratuit. Il fonctionne dans le terminal (et existe aussi en application de bureau), retient ce qu'il apprend d'une session à l'autre et peut utiliser tout modèle compatible OpenAI : les vôtres dans Ollama, LM Studio ou LiteLLM.

Dans ce guide, vous allez l'installer, le relier à vos modèles et voir quel rôle peut jouer le modèle d'Apple activé dans le guide précédent.

Ce qu'il faut savoir avant de commencer

• Un agent agit, il ne se contente pas de parler. Hermes peut créer, modifier ou supprimer des fichiers et lancer des commandes. Commencez par l'essayer dans un dossier de test, lisez ce qu'il propose avant d'accepter, et ne lui donnez pas accès à des documents importants avant de comprendre comment il travaille.
• Il lui faut des modèles avec beaucoup de mémoire de contexte. Hermes exige un contexte d'au moins 64 000 tokens ; en dessous, il refuse le modèle au démarrage. Cela oblige à régler Ollama et LM Studio, et exclut le modèle d'Apple comme modèle principal (nous l'expliquons plus bas).
• Les petits modèles ne suffisent pas. Un agent a besoin de modèles capables d'utiliser des outils et de suivre de longues instructions. En local, plus le modèle que votre ordinateur peut faire tourner est grand, mieux c'est. Pour des tâches sérieuses, un modèle payant via LiteLLM et OpenRouter donne généralement de meilleurs résultats.

Prérequis

• Mac : l'application de bureau nécessite un Mac à puce Apple. La version terminal fonctionne aussi sur d'autres Mac.
• Windows 10 ou 11 : Hermes a un installateur pour PowerShell. Il peut aussi s'utiliser dans WSL 2 (le Linux intégré à Windows).
• Linux : toute distribution récente.
• Git installé (voir l'étape 1).
• Au moins l'un de ces services installé et démarré (des guides sont disponibles sur ce blog) : Ollama, LM Studio ou LiteLLM.

Étape 1. Ouvrir le terminal et installer Git

• Mac : appuyez sur ⌘ + Espace, tapez « Terminal » et appuyez sur Entrée. Tapez git --version. S'il n'est pas installé, macOS propose d'installer les « outils de ligne de commande » : acceptez et attendez la fin.
• Windows : téléchargez Git sur git-scm.com, installez-le avec les options par défaut, puis ouvrez PowerShell depuis le menu Démarrer.
• Linux (Ubuntu ou Debian) : appuyez sur Ctrl + Alt + T et tapez :

sudo apt install git curl xz-utils

Étape 2. Installer Hermes Agent

Mac et Linux

Copiez cette commande dans le terminal et appuyez sur Entrée :

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash

Windows

Copiez cette commande dans PowerShell et appuyez sur Entrée :

iex (irm https://hermes-agent.nousresearch.com/install.ps1)

L'installateur s'occupe de tout ce dont Hermes a besoin (sa propre version de Python et d'autres outils) : comptez quelques minutes.

À la fin, fermez le terminal et ouvrez-en un nouveau. Vérifiez ensuite que tout est en ordre :

hermes doctor

Cette commande contrôle l'installation et vous signale ce qui manque.

Étape 3. Préparer vos modèles pour 64 000 tokens

Avant de relier Hermes, augmentez la mémoire de contexte du modèle que vous allez utiliser.

Si vous utilisez Ollama

• Mac et Windows : ouvrez les réglages d'Ollama et placez Context length sur 64k ou plus.
• Linux (ou si vous préférez le terminal) : quittez Ollama et démarrez-le avec :

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

Choisissez un modèle que votre ordinateur peut faire tourner avec ce contexte. À titre indicatif : qwen3.5 sur une machine de 16 Go, et gpt-oss:20b ou qwen3.8 à partir de 32 Go. Vérifiez le contexte avec ollama ps après utilisation.

Si vous utilisez LM Studio

Chargez le modèle avec un contexte de 64 000. Dans l'application, au chargement, montez Context Length à 64000. Ou depuis le terminal :

lms load qwen/qwen3.5-9b --context-length 64000

Pensez à activer le serveur local de LM Studio (onglet Developer → Start server).

Si vous utilisez LiteLLM

LiteLLM n'a pas de contexte propre : il dépend du modèle auquel il transmet la requête. Les modèles d'OpenRouter ont en général de très grands contextes ; ceux d'Ollama ou de LM Studio demandent le réglage ci-dessus.

Étape 4. Relier Hermes à votre modèle

Le plus simple est l'assistant de configuration. Dans le terminal, tapez :

hermes model

Un menu s'ouvre. Déplacez-vous avec les flèches du clavier et validez avec Entrée.

Option A : Ollama

1. Choisissez Custom endpoint (self-hosted / VLLM / etc.).
2. Pour l'adresse (base URL), tapez http://localhost:11434/v1.
3. Laissez la clé (API key) vide.
4. Tapez le nom du modèle tel qu'il apparaît dans ollama ls, par exemple qwen3.5.

Option B : LM Studio

1. Choisissez LM Studio dans la liste (Hermes le propose en option dédiée).
2. Vérifiez que l'adresse est http://localhost:1234/v1.
3. Choisissez le modèle chargé.

Option C : LiteLLM

1. Choisissez Custom endpoint (self-hosted / VLLM / etc.).
2. Pour l'adresse, tapez http://localhost:4000/v1.
3. Pour la clé, collez votre clé maître LiteLLM (celle qui commence par sk-).
4. Tapez le nom du modèle tel que défini dans le config.yaml de LiteLLM, par exemple free-qwen ou or-sonnet-5.

LiteLLM est l'option la plus souple : depuis un point unique, Hermes peut utiliser vos modèles locaux comme ceux d'OpenRouter.

Étape 5. Premier essai

Faites un essai rapide avec une seule question :

hermes chat --oneshot -q "Dis bonjour et indique quel modèle tu es"

Si vous obtenez une réponse, Hermes est relié à votre modèle.

Pour ouvrir l'interface complète de l'agent dans le terminal, tapez :

hermes --tui

Un en-tête affiche le fournisseur et le modèle utilisés. Tapez une tâche simple pour commencer, par exemple : « Crée dans ce dossier un fichier notes.txt avec trois idées pour organiser ma semaine ».

Étape 6. Garder plusieurs modèles sous la main

Hermes enregistre sa configuration dans le fichier config.yaml du dossier .hermes, dans votre dossier utilisateur, et les clés dans le fichier .env de ce même dossier. Vous pouvez relancer hermes model pour ajouter d'autres fournisseurs ; l'assistant les enregistre pour vous.

Si vous préférez l'écrire à la main, la documentation de Hermes décrit une section providers avec une entrée par fournisseur. Par exemple :

providers:
  ollama:
    api: http://localhost:11434/v1
    default_model: qwen3.5
    context_length: 64000
  lmstudio:
    api: http://localhost:1234/v1
    default_model: qwen/qwen3.5-9b
    context_length: 64000
  litellm:
    api: http://localhost:4000/v1
    key_env: LITELLM_API_KEY
    default_model: free-qwen
    context_length: 64000

Et dans le fichier .env, la clé de LiteLLM :

LITELLM_API_KEY=sk-mon-standard-8f3k29dq7w

Dans une session Hermes, vous changez de modèle avec la commande /model. Par exemple, /model custom:litellm:or-sonnet-5 utilise le modèle or-sonnet-5 du fournisseur litellm.

Et le modèle d'Apple ?

Dans le guide précédent, nous avons activé le modèle d'Apple Intelligence avec fm serve. Techniquement, Hermes pourrait s'y connecter comme à tout autre service compatible OpenAI (adresse http://localhost:1976/v1, modèle system). Mais il ne peut pas servir de modèle principal à Hermes : le modèle d'Apple a une mémoire de contexte de 4 096 tokens, et Hermes exige au moins 64 000. Au démarrage, Hermes le refusera.

La répartition recommandée est donc :

• Hermes avec un grand modèle : local (Ollama ou LM Studio avec un contexte de 64 000) ou cloud via LiteLLM.
• Le modèle d'Apple pour les tâches courtes depuis Open WebUI : résumer, extraire des données ou reformuler.

Si Apple augmente un jour la mémoire de son modèle, il suffira de l'ajouter comme fournisseur supplémentaire avec les mêmes étapes.

Garder Hermes à jour

Hermes est mis à jour souvent. Pour installer la dernière version :

hermes update

Et si un jour vous voulez le désinstaller :

hermes uninstall

Problèmes fréquents

• « hermes: command not found ». Fermez le terminal et ouvrez-en un nouveau. Sur Mac, si cela persiste, lancez source ~/.zshrc ; sur Linux, source ~/.bashrc.
• Hermes refuse le modèle au démarrage faute de contexte. Le modèle a moins de 64 000 tokens de contexte. Reprenez l'étape 3 et vérifiez le contexte réel avec ollama ps ou dans LM Studio.
• Il ne se connecte pas à Ollama ou à LM Studio. Vérifiez qu'ils sont ouverts : dans le navigateur, http://localhost:11434 doit afficher « Ollama is running » et http://localhost:1234/v1/models doit lister vos modèles LM Studio.
• Erreur d'authentification avec LiteLLM. La clé doit être exactement votre clé maître LiteLLM, qui commence par sk-.
• L'agent est très lent ou se trompe souvent. Le modèle est trop petit pour ce travail ou votre ordinateur manque de mémoire. Essayez un modèle plus grand, ou un modèle payant via LiteLLM.
• Quelque chose ne marche pas et vous ne savez pas pourquoi. Lancez hermes doctor : il contrôle l'installation et la configuration et vous indique ce qui ne va pas.

Ce que vous avez mis en place

Ce guide clôt le volet intelligence artificielle de la série : vous avez des modèles locaux avec LM Studio et Ollama, un standard avec LiteLLM, une interface web avec Open WebUI, un éditeur avec IA dans Cursor, le modèle d'Apple intégré à votre Mac et un agent, Hermes, capable de travailler avec tous. Le tout sous votre contrôle et, pour l'essentiel, dans votre propre ordinateur.

Dans le dernier guide, vous monterez un serveur à la maison, allumé en permanence et accessible de partout, pour réunir tout cela.

Guide suivant : Monter votre propre serveur personnel avec Ubuntu Server et y accéder de partout avec Tailscale