Hermes Agent : lancer un modèle local sans monter soi-même le moteur
La branche 0.22 installe et gère llama.cpp, puis propose un modèle adapté au matériel. L’inférence locale n’empêche pas les outils connectés d’envoyer des données ailleurs.
Pour aller plus loin
Image générée · SecuFocus
En bref
L’essentiel
Vous voulez utiliser Hermes sans envoyer vos conversations à un fournisseur de modèles ? La version 0.22.0 ajoute un parcours de modèles locaux dans l’application et le terminal. Hermes installe le moteur llama.cpp, aide à choisir un modèle et gère son démarrage. Il faut encore télécharger les fichiers et disposer de la mémoire nécessaire. Cette lecture est documentaire, sans mesure de vitesse sur notre matériel.
Le moteur et le modèle, dans le même parcours
La note 0.22.0 présente Local Models dans Settings → Providers → Local Models. Dans le terminal, hermes model propose le même choix. Le logiciel installe un moteur adapté au matériel, puis télécharge le modèle sélectionné. Le serveur démarre et s’arrête avec Hermes.
La documentation actuelle décrit des téléchargements que l’on peut mettre en pause et reprendre. Un fichier GGUF déjà présent peut aussi être ajouté à la bibliothèque. Cela évite de gérer un serveur séparé pour commencer ; cela ne dispense pas de vérifier la place disponible.
La mémoire décide de ce qui tient
Hermes évalue les modèles en fonction du GPU et de la mémoire système. Le catalogue distingue ceux qui tiennent dans la mémoire graphique, ceux qui débordent en RAM avec une baisse de vitesse attendue et ceux qui sont trop gros. Le nombre de paramètres ne suffit donc pas à choisir un téléchargement.
La documentation prévoit notamment Metal ou CPU sur macOS, CUDA, Vulkan ou CPU selon la plateforme Windows ou Linux, et un choix HIP/ROCm sur des cibles prises en charge. Ne supposez pas qu’un moteur destiné à une autre architecture fonctionnera sur votre carte. Nous n’avons pas comparé ces moteurs ni vérifié une cadence de génération.
Local pour le modèle, pas automatiquement pour tous les outils
Selon la documentation, le modèle téléchargé peut produire ses réponses sur la machine sans compte ni clé API. Cette propriété concerne l’inférence. Une recherche web, un connecteur vers une application ou un autre outil distant garde sa propre destination.
Avant de lui confier un dossier sensible, choisissez un modèle local et examinez aussi les outils activés. Demandez d’abord une tâche sur des fichiers sans données personnelles. Un modèle qui tourne chez vous peut toujours commander un outil connecté si vous le lui donnez.
Le premier démarrage gratuit est une autre voie
La 0.22.0 propose aussi un premier démarrage guidé sur le modèle d’essai nous/welcome, annoncé une fois par utilisateur du système. Ce parcours permet de découvrir Hermes sans posséder de clé API. Ce n’est pas la même chose qu’exécuter un modèle local, ni une promesse d’usage distant illimité.
La 0.22.2 corrige ensuite les longs traitements locaux sur les portables, notamment autour de la veille et de la lecture du contexte. Pour installer ou mettre à jour, vérifiez le canal et la plateforme : un numéro de version publié ne signifie pas que tous les paquets de bureau ont changé.
Les ajouts 0.22.3 ne sont pas une mesure de vitesse
La note 0.22.3 annonce Nemotron 3.5 Bolt et la prise en charge de DFlash pour les modèles de brouillon du moteur local. Ces options supplémentaires ne donnent pas une accélération garantie sur votre machine.
La page Local Models actuelle décrit le téléchargement des modèles de brouillon, mais ne détaille pas ces deux ajouts par leur nom. Vérifiez leur présence dans le catalogue de votre installation avant de prévoir un téléchargement. Nous n’avons pas testé cette combinaison ni établi ses besoins matériels ; ne reprenez pas les exigences d’un autre modèle comme si elles s’y appliquaient.
Vérifier, approfondir
Les sources de cet article
Les numéros relient chaque référence aux passages qui l’utilisent. La date indique quand la documentation a été consultée.
- Documentation Hermes : outils distants du Tool Gateway ↗hermes-agent.nousresearch.com ·
Cet article s’appuie sur les sources ci-dessus. Les exercices proposés sont à réaliser sur vos appareils ; SecuFocus ne les présente pas comme des essais menés par la rédaction. Les interfaces et les fonctions peuvent changer. Méthode et corrections.
Citer cet article
Pour retrouver cette lecture ou la partager avec sa référence.