Servez et échangez des LLM sans redémarrage.
Pendant longtemps, llama.cpp avait une limitation flagrante :
vous ne pouviez servir qu’un seul modèle par processus, et changer de modèle nécessitait un redémarrage.
Créez des compétences Claude conçues pour résister à un usage réel.
La plupart des équipes utilisent mal les Compétences Claude de deux manières. Elles transforment soit SKILL.md en une poubelle, soit elles ne passent jamais à autre chose que des prompts géants copiés-collés.
Configurations Hermes axées sur le profil pour des charges de travail exigeantes
L’assistant IA Hermes, officiellement documenté comme Hermes Agent, n’est pas positionné comme un simple wrapper de chat.
Les compétences à conserver et celles à éviter.
OpenClaw dispose de deux récits d’extension, et il est facile de les confondre.
Les plugins étendent le temps d’exécution. Les compétences (skills) étendent le comportement de l’agent.
D'abord les plugins, puis une brève explication des compétences.
Cet article porte sur les plugins OpenClaw — des paquets de passerelle natifs qui ajoutent des canaux, des fournisseurs de modèles, des outils, de la parole, de la mémoire, des médias, une recherche web et d’autres surfaces d’exécution.
Comment les systèmes OpenClaw réels sont véritablement structurés
OpenClaw semble simple dans les démonstrations. En production, il devient un système.
Les abonnements à Claude ne permettent plus de faire fonctionner les agents.
La faille silencieuse qui a alimenté une vague d’expérimentation d’agents est désormais fermée.
Recherche IA auto-hébergée avec des LLM locaux
Vane est l’une des entrées les plus pragmatiques dans le domaine de la « recherche IA avec citations » : un moteur de réponse auto-hébergé qui combine la récupération web en direct avec des LLM locaux ou cloud, tout en gardant toute la pile sous votre contrôle.
Programmation agentique, désormais avec des backends de modèles locaux.
Claude Code n’est pas un système d’auto-complétion avec un meilleur marketing. C’est un outil de codage agentique : il lit votre base de code, modifie des fichiers, exécute des commandes et s’intègre à vos outils de développement.
Installation et démarrage rapide de l'agent Hermes pour les développeurs
Hermes Agent est un assistant IA auto-hébergé, agnostique quant aux modèles, qui s’exécute sur une machine locale ou un VPS à faible coût, fonctionne via l’interface terminal et des interfaces de messagerie, et s’améliore avec le temps en transformant les tâches répétitives en compétences réutilisables.
Installez TGI, déployez rapidement, déboguez encore plus vite.
Text Generation Inference (TGI) possède une énergie très particulière. Ce n’est pas le nouveau venu de la rue de l’inférence, mais c’est celui qui a déjà appris comment la production peut se briser -
Vitesse de génération de tokens de llama.cpp sur 16 Go de VRAM (tableaux).
Voici je compare la vitesse de plusieurs LLMs exécutés sur un GPU avec 16 Go de VRAM, et je choisis le meilleur pour l’auto-hébergement.
La RTX 5090 est rare et surcotée en Australie.
L’Australie dispose de stock pour la RTX 5090. À peine. Et si vous en trouvez une, vous paierez une prime qui semble déconnectée de la réalité.
Accès distant à Ollama sans ports publics
Ollama est à son meilleur lorsque l’on le traite comme un démon local : la CLI et vos applications communiquent avec une API HTTP en boucle locale (loopback), et le reste du réseau ignore son existence.
Serveur Ollama orienté composition, avec GPU et persistance.
Ollama fonctionne parfaitement sur du matériel nu. Cela devient encore plus intéressant lorsque vous le traitez comme un service : une extrémité stable, des versions figées, un stockage persistant et une GPU qui est soit disponible, soit non.
HTTPS Ollama sans interrompre les réponses en flux.
Exécuter Ollama derrière un proxy inversé est le moyen le plus simple d’obtenir HTTPS, un contrôle d’accès facultatif et un comportement de streaming prévisible.
