Dat is zeer opwindend! In plaats van copilot of perplexity.ai aan te roepen en aan het hele wereldje te vertellen wat je zoekt, kan je nu een soortgelijk dienst op je eigen PC of laptop hosten!

Onlangs hebben we meerdere nieuwe LLMs gezien die zijn vrijgegeven. Opwindende tijden. Laten we testen en zien hoe ze presteren bij het detecteren van logische fouten.

Toen ik begon met het experimenteren met LLMs waren de UIs voor hen actief in ontwikkeling en nu zijn sommige van hen echt goed.

Er zijn nog steeds enkele veelvoorkomende aanpakken om goede prompts te schrijven, zodat LLM’s niet in de war raken bij het begrijpen van wat je van hen wilt.

Ik heb verschillende tools geprobeerd en ben tot de conclusie gekomen dat ik floccus het meest leuk vind.

Soms heb ik dit nodig, maar kan het niet direct vinden.
Dus houd ik ze allemaal hier.

Toen ik object detectie AI optraaide enige tijd geleden - was LabelImg een zeer nuttig hulpmiddel, maar de export van Label Studio naar COCO formaat werd niet geaccepteerd door de MMDetection framework…

Testing hoe modellen met verschillende aantal parameters en quantisatie zich gedragen.

Na het installeren van ollama is het beter om ollama direct opnieuw in te stellen om ze op te slaan in een nieuwe locatie. Zo krijgen we nieuwe modellen niet gedownload naar de oude locatie.

Je kunt een browser adblock plugin of add-on installeren voor Google Chrome, Firefox of Safari, maar je moet dit dan op elk apparaat doen.
Het netwerkbrede ad-blocker is mijn favoriete oplossing.

Na het klonen van de git-repository, voer je de lokale repositoryconfiguratie uit, met name het instellen van de gebruikersnaam en e-mailadres.

Wanneer de site gegenereerd is met hugo is het tijd om deze te implementeren op een hostingplatform. Hieronder staat hoe je deze kunt pushen naar AWS S3 en laten serveren met AWS CloudFront CDN.

Vergelijking van de voorspellende snelheid van verschillende versies van LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) op CPU en GPU.

Hier vergelijk ik verschillende LLM-versies: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) en Qwen (Alibaba).

Nodig om de 1) db, 2) filestorage, 3) enkele andere gitea bestanden te back-uppen. Hier gaan we.

Het koppelen, vergroten, verkleinen en het toevoegen van randen aan afbeeldingen voor deze blog heeft me ertoe aangezet om deze vaak gebruikte functie toe te voegen aan de contextmenu van Linux Mint Cinnamon.