Hardware

Après avoir installé automatiquement un nouveau noyau, Ubuntu 24.04 a perdu la connexion réseau Ethernet. Ce problème frustrant s’est produit une deuxième fois pour moi, donc je documente la solution ici pour aider les autres confrontés au même problème.

Avec cette folle volatilité des prix de la RAM, pour former et avoir une meilleure idée, traçons d’abord nous-mêmes le prix de la RAM en Australie.

Le marché de la mémoire connaît une volatilité de prix sans précédent à la fin de 2025, avec une hausse dramatique des prix de la RAM sur tous les segments : augmentation des prix de la RAM.

Commençons par comparer les prix des cartes graphiques de haut de gamme destinées aux consommateurs, qui sont particulièrement adaptées aux LLM et plus généralement à l’IA. Plus précisément, je regarde prix des RTX-5080 et RTX-5090.

La démocratisation de l’IA est ici. Avec des LLM open source comme Llama 3, Mixtral et Qwen qui rivalisent désormais avec les modèles propriétaires, les équipes peuvent construire une infrastructure puissante d’IA à l’aide du matériel grand public - réduisant les coûts tout en maintenant un contrôle complet sur la confidentialité des données et le déploiement.

Docker Model Runner est l’outil officiel de Docker pour exécuter des modèles d’IA localement, mais l’activation de l’accélération GPU NVidia dans Docker Model Runner nécessite une configuration spécifique.

J’ai découvert quelques tests de performance intéressants du modèle GPT-OSS 120b exécuté sur Ollama sur trois plateformes différentes : NVIDIA DGX Spark, Mac Studio et RTX 4080. Le modèle GPT-OSS 120b de la bibliothèque Ollama pèse 65 Go, ce qui signifie qu’il ne peut pas s’adapter dans les 16 Go de VRAM d’une RTX 4080 (ou même sur la nouvelle RTX 5080).

Docker Model Runner (DMR) est la solution officielle de Docker pour exécuter des modèles d’IA localement, introduite en avril 2025. Cette fiche de référence fournit un aperçu rapide de toutes les commandes essentielles, configurations et bonnes pratiques.

Dans le paysage actuel de l’informatique, la virtualisation est devenue essentielle pour le développement, les tests et le fonctionnement de plusieurs systèmes d’exploitation. Pour les utilisateurs de Linux souhaitant gérer des machines virtuelles de manière simple et intuitive, GNOME Boxes se distingue comme une option légère et conviviale qui privilégie l’ergonomie sans sacrifier la fonctionnalité.

L’avenir de l’IA ne concerne pas seulement des modèles plus intelligents [https://www.glukhov.org/fr/post/2025/06/qwen3-embedding-qwen3-reranker-on-ollama/ “Modèles Qwen3 embedding et reranker - performance d’avant-garde”] - il concerne des siliciums plus intelligents.
L’évolution vers un matériel spécialisé pour l’inférence des LLM entraîne une révolution similaire à celle du passage du minage de Bitcoin aux ASICs.

NVIDIA DGX Spark est réel, disponible à la vente le 15 octobre 2025, et ciblé aux développeurs CUDA ayant besoin de travail local avec des LLM avec une pile AI NVIDIA intégrée. Prix de vente au détail aux États-Unis $3 999 ; le prix de vente au détail UK/DE/JP est plus élevé en raison de la TVA et des canaux. Les prix publics AUD/KRW ne sont pas encore largement affichés.

Proxmox Virtual Environment (Proxmox VE) est un hyperviseur de type 1 et une plateforme d’orchestration de centre de données open source, construite sur Debian.

Encore et encore, comparons les prix des cartes graphiques grand public de haut niveau, qui sont particulièrement adaptées aux LLM et en général à l’IA. Plus précisément, je regarde les prix de l’RTX-5080 et de l’RTX-5090. Ils ont légèrement baissé.

Applications de surveillance de la charge du GPU :
nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Nvidia est sur le point de lancer le NVIDIA DGX Spark – un petit superordinateur d’IA basé sur l’architecture Blackwell, doté d’une mémoire unifiée de 128+Go et d’une performance d’IA de 1 PFLOPS. Un appareil intéressant pour exécuter les LLM.

Commençons par comparer les prix des meilleures cartes graphiques grand public, adaptées en particulier aux LLM et à l’IA en général. Examinons plus précisément les prix de la RTX 5080 et de la RTX 5090. Ils ont légèrement baissé.