C’est très excitant !
Au lieu d’appeler Copilot ou Perplexity.ai et de tout raconter au monde,
vous pouvez maintenant héberger un service similaire sur votre propre ordinateur ou laptop !

Quand j’ai commencé à expérimenter avec les LLM, les interfaces utilisateur pour eux étaient en développement actif, et maintenant certaines d’entre elles sont vraiment excellentes.

Récemment, nous avons vu plusieurs nouveaux LLM sortir. Des temps excitants. Testons-les et voyons comment ils se débrouillent lors de la détection des fautes logiques.

Il existe toutefois quelques approches courantes pour rédiger des prompts efficaces afin que le modèle de langage ne se confonde pas en tentant de comprendre ce que vous souhaitez.

J’ai essayé différents outils et je suis arrivé à la conclusion que j’aime le plus floccus.

Parfois, j’ai besoin de cela mais je ne le trouve pas immédiatement.
Donc, je les garde toutes ici.

Quand j’ai entraîné un détecteur d’objets AI il y a un certain temps - LabelImg était un outil très utile, mais l’exportation depuis Label Studio vers le format COCO n’était pas acceptée par le framework MMDetection..

Testing comment sur les modèles avec un nombre différent de paramètres et la quantification.

Après avoir installé ollama, il est préférable de reconfigurer ollama pour qu’il les stocke directement dans le nouveau lieu. Ainsi, après avoir tiré un nouveau modèle, il ne sera pas téléchargé vers l’ancien emplacement.

Vous pouvez installer un plugin ou un complément de blocage de publicités dans un navigateur pour Google Chrome, Firefox ou Safari, mais vous devrez le faire sur chaque appareil.
Le bloqueur de publicités réseau est ma solution préférée.

Après avoir cloné le dépôt git, configurez le dépôt local, en particulier le nom d’utilisateur et l’adresse e-mail.

Lorsque le site est généré avec hugo, il est temps de le déployer sur une plateforme d’hébergement. Voici comment le pousser vers AWS S3 et le servir avec AWS CloudFront CDN.

Comparaison de la vitesse de prédiction de plusieurs versions de LLM (modèles de langage grand public) : llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) sur CPU et GPU.

Ici, je compare plusieurs versions de LLM : Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) et Qwen (Alibaba).

Il faut sauvegarder le 1) db, 2) filestorage, 3) certains autres fichiers gitea. Voici comment faire.

Le fait de recadrer, redimensionner et ajouter des bordures aux images pour ce blog m’a poussé à ajouter cette fonctionnalité fréquemment utilisée au menu contextuel de Linux Mint Cinnamon.