Hardware

Le marché de la mémoire connaît une volatilité des prix sans précédent à la fin 2025, avec une flambée des prix de la RAM spectaculaire dans tous les segments.

Comparons les prix des GPU grand public de premier niveau, qui sont particulièrement adaptés aux LLM et à l’IA en général. Plus précisément, j’examine les prix des RTX-5080 et RTX-5090.

La démocratisation de l’IA est arrivée. Avec des LLM open-source comme Llama, Mistral et Qwen qui rivalisent désormais avec les modèles propriétaires, les équipes peuvent construire une puissante infrastructure IA utilisant du matériel grand public - réduisant les coûts tout en conservant un contrôle total sur la confidentialité des données et le déploiement.

Docker Model Runner est l’outil officiel de Docker pour exécuter des modèles d’IA localement, mais l’activation de l’accélération GPU NVidia dans Docker Model Runner nécessite une configuration spécifique.

J’ai découvert des tests de performance intéressants sur l’exécution du modèle GPT-OSS 120b avec Ollama sur trois plateformes différentes : NVIDIA DGX Spark, Mac Studio, et RTX 4080. Le modèle GPT-OSS 120b de la bibliothèque Ollama pèse 65 Go, ce qui signifie qu’il ne peut pas s’exécuter dans les 16 Go de VRAM d’un RTX 4080 (ou sur le plus récent RTX 5080).

Docker Model Runner (DMR) est la solution officielle de Docker pour exécuter des modèles d’IA localement, introduite en avril 2025. Cette fiche pratique fournit un référentiel rapide pour toutes les commandes essentielles, les configurations et les bonnes pratiques.

Dans le paysage actuel de l’informatique, la virtualisation est devenue essentielle pour le développement, les tests et le fonctionnement de plusieurs systèmes d’exploitation. Pour les utilisateurs de Linux souhaitant gérer des machines virtuelles de manière simple et intuitive, GNOME Boxes se distingue comme une option légère et conviviale qui privilégie l’ergonomie sans sacrifier la fonctionnalité.

L’avenir de l’IA ne concerne pas uniquement des modèles plus intelligents. Il s’agit également de la silice qui correspond à la manière dont ces modèles sont réellement servis. Le matériel spécialisé pour l’inférence LLM suit un chemin rappelant la transition du minage de Bitcoin des GPU vers les ASIC dédiés, avec des contraintes plus rigoureuses car les modèles et les recettes de précision continuent d’évoluer.

NVIDIA DGX Spark est bien réel, en vente à partir du 15/10/2025, et destiné aux développeurs CUDA ayant besoin de travailler sur des LLM locaux avec un NVIDIA AI stack intégré. Le PPU aux États-Unis est de 3 999 $ ; le prix de détail en Royaume-Uni/Allemagne/Japon est plus élevé en raison de la TVA et des coûts de distribution. Les prix publics en AUD/KRW ne sont pas encore largement affichés.

Comparons les prix des GPU grand public haut de gamme, particulièrement adaptés aux LLM et à l’IA en général. Plus précisément, je me penche sur les prix des RTX-5080 et RTX-5090. Ils ont légèrement baissé.

Applications de surveillance de la charge du GPU :
nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Nvidia s’apprête à publier NVIDIA DGX Spark - un petit supercalculateur IA basé sur l’architecture Blackwell, doté de plus de 128 Go de mémoire unifiée et d’une performance IA de 1 PFLOPS. Un appareil idéal pour exécuter des LLM.

Comparons les prix des GPU grand public de première ligne, particulièrement adaptés aux LLM et à l’IA en général.

Examinons plus particulièrement les prix des RTX 5080 et RTX 5090. Ils ont légèrement baissé.

Il y a seulement 3 mois, nous ne voyions pas de RTX 5090 dans les magasins, et maintenant elles sont là, mais les prix sont légèrement supérieurs au prix de vente conseillé (MRSP). Comparons les prix les plus bas pour la RTX 5080 et la RTX 5090 en Australie et voyons comment cela se passe.

Système automatisé de pointe pour un travail impressionnant.

Comment les voies PCIe affectent les performances des LLM? Cela dépend de la tâche. Pour l’entraînement et l’inférence multi-GPU, la baisse de performance est significative.