Hardware

Comparons les prix des GPU grand public de premier niveau, qui sont particulièrement adaptés aux LLM et à l’IA en général. Plus précisément, j’examine les prix des RTX-5080 et RTX-5090.

La démocratisation de l’IA est arrivée. Avec des LLM open-source comme Llama, Mistral et Qwen qui rivalisent désormais avec les modèles propriétaires, les équipes peuvent construire une puissante infrastructure IA utilisant du matériel grand public - réduisant les coûts tout en conservant un contrôle total sur la confidentialité des données et le déploiement.

Docker Model Runner est l’outil officiel de Docker pour exécuter des modèles d’IA localement, mais l’activation de l’accélération GPU NVidia dans Docker Model Runner nécessite une configuration spécifique.

J’ai découvert des tests de performance intéressants sur l’exécution du modèle GPT-OSS 120b avec Ollama sur trois plateformes différentes : NVIDIA DGX Spark, Mac Studio, et RTX 4080. Le modèle GPT-OSS 120b de la bibliothèque Ollama pèse 65 Go, ce qui signifie qu’il ne peut pas s’exécuter dans les 16 Go de VRAM d’un RTX 4080 (ou sur le plus récent RTX 5080).

Docker Model Runner (DMR) est la solution officielle de Docker pour exécuter des modèles d’IA localement, introduite en avril 2025. Cette fiche pratique fournit un référentiel rapide pour toutes les commandes essentielles, les configurations et les bonnes pratiques.

Dans le paysage actuel de l’informatique, la virtualisation est devenue essentielle pour le développement, les tests et le fonctionnement de plusieurs systèmes d’exploitation. Pour les utilisateurs de Linux souhaitant gérer des machines virtuelles de manière simple et intuitive, GNOME Boxes se distingue comme une option légère et conviviale qui privilégie l’ergonomie sans sacrifier la fonctionnalité.

L’avenir de l’IA ne concerne pas seulement des modèles plus intelligents. Il s’agit également de la silice capable de s’adapter à la manière dont ces modèles sont réellement servis. Le matériel spécialisé pour l’inférence LLM suit une voie rappelant le passage des GPU aux ASIC conçus sur mesure pour le minage de Bitcoin, mais avec des contraintes plus strictes car les modèles et les recettes de précision évoluent constamment.

NVIDIA DGX Spark est bien réel, en vente depuis le 15 octobre 2025, et destiné aux développeurs CUDA ayant besoin de travailler localement avec des LLM grâce à une pile IA NVIDIA intégrée. Le prix de détail US est de 3 999 $ ; les prix de détail au Royaume-Uni/Allemagne/Japon sont plus élevés en raison de la TVA et des canaux de distribution. Les prix publics en AUD/KRW ne sont pas encore largement affichés.

Comparons les prix des GPU grand public haut de gamme, particulièrement adaptés aux LLM et à l’IA en général. Plus précisément, je me penche sur les prix des RTX-5080 et RTX-5090. Ils ont légèrement baissé.

Applications de surveillance de la charge du GPU :
nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Nvidia s’apprête à publier NVIDIA DGX Spark - un petit supercalculateur IA basé sur l’architecture Blackwell, doté de plus de 128 Go de mémoire unifiée et d’une performance IA de 1 PFLOPS. Un appareil idéal pour exécuter des LLM.

Comparons les prix des GPU grand public de première ligne, particulièrement adaptés aux LLM et à l’IA en général.

Examinons plus particulièrement les prix des RTX 5080 et RTX 5090. Ils ont légèrement baissé.

Il y a seulement 3 mois, nous ne voyions pas de RTX 5090 dans les magasins, et maintenant elles sont là, mais les prix sont légèrement supérieurs au prix de vente conseillé (MRSP). Comparons les prix les plus bas pour la RTX 5080 et la RTX 5090 en Australie et voyons comment cela se passe.

Système automatisé de pointe pour un travail impressionnant.

Comment les canaux PCIe affectent les performances des LLM ? Selon la tâche. Pour l’entraînement et l’inférence multi-GPU, la baisse de performance est significative.

J’ai été fortement touché par ce problème. Mais vous devriez investiguer et tester votre PC si votre écran bleu (BSOD) est similaire au mien.
La cause était le problème de dégradation du processeur d’Intel dans les générations 13e et 14e.