AI

La lettre The Pragmatic Engineer publiée il y a quelques jours présente des statistiques d’une enquête sur la popularité des langages de programmation, des IDE et des outils d’IA ainsi que d’autres données pour la mi-2025.

Nvidia est sur le point de lancer le NVIDIA DGX Spark - un petit superordinateur d’IA basé sur l’architecture Blackwell, avec plus de 128 Go de mémoire unifiée et une performance d’IA de 1 PFLOPS. Un appareil intéressant pour exécuter les LLM.

Comme Ollama standard ne dispose pas d’API de rerank directe, vous devrez implémenter le reranking avec Qwen3 Reranker en GO en générant des embeddings pour les paires de requêtes et de documents et en les notant.

Un froid jour d’hiver en juillet… c’est-à-dire en Australie… j’ai ressenti le besoin urgent d’entraîner un modèle d’IA pour détecter les barres d’armature en béton non coupées…

Dans ce test, je suis en comparant comment différents LLMs hébergés sur Ollama traduisent une page Hugo en anglais vers l’allemand.
Trois pages que j’ai testées portaient sur des sujets différents, comportaient un joli markdown avec une certaine structure : titres, listes, tableaux, liens, etc.

Ce petit exemple de code Go pour le reranking appelle Ollama pour générer des embeddings pour la requête et pour chaque document candidat, puis trie par ordre décroissant de similarité cosinus.

Comment les voies PCIe affectent les performances des LLM ? Selon la tâche. Pour l’entraînement et l’inférence multi-GPU, la baisse de performance est significative.

Dans la bibliothèque de modèles Ollama, il existe des modèles capables de convertir du contenu HTML en Markdown, ce qui est utile pour les tâches de conversion de contenu.

• Recherche est idéale pour une récupération rapide et directe d’informations à l’aide de mots-clés.
• Recherche approfondie excelle dans la compréhension du contexte et de l’intention, livrant des résultats plus pertinents et complets pour des requêtes complexes.

Voici une liste d’outils d’assistance au codage basés sur l’intelligence artificielle (IA) et leurs avantages.

L’utilisation des LLM n’est pas très coûteuse, il n’y a peut-être pas besoin d’acheter un nouveau GPU impressionnant. Voici une liste des fournisseurs de LLM en nuage avec les LLM qu’ils hébergent.

J’ai une théorie à tester - si l’utilisation de tous les cœurs d’un processeur Intel augmenterait la vitesse des LLMs ? Cela me tracasse que le nouveau modèle gemma3 27 bit (gemma3:27b, 17 Go sur ollama) ne s’adapte pas dans les 16 Go de VRAM de ma carte graphique, et qu’il s’exécute partiellement sur le CPU.

Dans le chaos du monde moderne ici, je compare les spécifications techniques de différentes cartes adaptées aux tâches IA
(Deep Learning,
Détection d’objets
et LLMs).
Elles sont toutes extrêmement coûteuses toutefois.

Lorsque le serveur Ollama reçoit deux demandes en même temps, son comportement dépend de sa configuration et des ressources système disponibles.

Vibe coding est une approche de programmation pilotée par l’IA où les développeurs décrivent les fonctionnalités souhaitées en langage naturel, permettant aux outils d’IA de générer automatiquement du code.