Self-Hosting

Ollama a rapidement devenu l’un des outils les plus populaires pour exécuter localement des LLM (Large Language Models). Son interface CLI simple et sa gestion des modèles optimisée ont fait de lui une option privilégiée pour les développeurs souhaitant travailler avec des modèles d’IA hors du cloud. Mais comme c’est souvent le cas avec de nombreuses plateformes prometteuses, des signes d’Enshittification apparaissent déjà :

Mumble est une application de communication vocale par Internet (VoIP) gratuite et open source, principalement conçue pour la communication vocale en temps réel. Elle utilise une architecture client-serveur où les utilisateurs se connectent à un serveur partagé pour s’entretenir entre eux.

L’hébergement local de Ollama permet d’exécuter des modèles de langage volumineux sur votre propre machine, mais son utilisation via la ligne de commande n’est pas très conviviale.
Voici plusieurs projets open source qui proposent des interfaces du style ChatGPT qui se connectent à un Ollama local.

Applications de surveillance de la charge du GPU :
nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Voici un walkthrough étape par étape de
l’installation d’un cluster K3s à 3 nœuds
sur des serveurs physiques (1 maître + 2 travailleurs).

Comparaison des distributions de self-hosting Kubernetes pour l’hébergement sur serveurs physiques ou serveurs domestiques, en se concentrant sur la facilité d’installation, les performances, les exigences système et les ensembles de fonctionnalités.

Je compare les variantes de Kubernetes auto-hébergées que l’on peut utiliser dans un homelab basé sur Ubuntu avec 3 nœuds (16 Go de RAM, 4 cœurs chacun), en mettant l’accent sur la facilité d’installation et de maintenance, ainsi que le support des volumes persistants et des LoadBalancers.

GitHub Actions
est une plateforme d’automatisation et de CI/CD au sein de GitHub, utilisée pour construire, tester et déployer votre code en fonction d’événements tels que les pushes, les demandes de fusion ou un calendrier.

Voici un fichier d’astuces Docker Compose avec des exemples annotés pour vous aider à maîtriser rapidement les fichiers et les commandes Compose.

Voici une analyse détaillée de
Obsidian en tant qu’outil puissant pour la gestion de la connaissance personnelle (GCP),
expliquant son architecture, ses fonctionnalités, ses forces et la manière dont il soutient les workflows modernes de gestion de la connaissance.

Nvidia est sur le point de lancer le NVIDIA DGX Spark – un petit superordinateur d’IA basé sur l’architecture Blackwell, doté d’une mémoire unifiée de 128+Go et d’une performance d’IA de 1 PFLOPS. Un appareil intéressant pour exécuter les LLM.

Faisons un rapide aperçu de
Matomo, Plausible, Google et autres fournisseurs et systèmes d’analyse web
disponibles pour le déploiement en auto-hébergement et les comparons.

Voici ma préférée série d’étapes lors d’une installation fraîche d’Ubuntu 24.04. Ce que j’aime ici, c’est qu’il n’est pas nécessaire d’installer les pilotes NVidia ! Ils sont installés automagiquement.

Dokuwiki est un wiki autohébergé qui peut être hébergé facilement sur site et ne nécessite aucun système de base de données. Je le faisais fonctionner en version conteneurisée, sur mon propre cluster Kubernetes.

Commençons par comparer les prix des meilleures cartes graphiques grand public, adaptées en particulier aux LLM et à l’IA en général. Examinons plus précisément les prix de la RTX 5080 et de la RTX 5090. Ils ont légèrement baissé.

Apache Airflow est une plateforme open source conçue pour créer, planifier et surveiller des workflows de manière programmée, entièrement en code Python, offrant une alternative flexible et puissante aux outils traditionnels, manuels ou basés sur une interface graphique.