Hervorragende Nahrung ist auch ein Genuss für die Augen. Aber in diesem Beitrag vergleichen wir zwei AI-basierte Suchsysteme, Farfalle und Perplexica.

Wir können eine Lambda-Funktion für die Bereitstellung auf AWS in mehreren Sprachen schreiben. Lassen Sie uns die Leistung von (fast leeren) Funktionen, die in JavaScript, Python und Golang geschrieben wurden, vergleichen…

Das ist sehr aufregend! Statt Copilot oder perplexity.ai zu rufen und der ganzen Welt zu erzählen, wonach Sie suchen, können Sie nun einen ähnlichen Dienst auf Ihrem eigenen PC oder Laptop hosten!

Als ich begann, mit LLMs zu experimentieren, waren die Benutzeroberflächen dafür noch in aktiver Entwicklung und einige von ihnen sind jetzt wirklich gut.

Kürzlich haben wir mehrere neue LLMs gesehen, die veröffentlicht wurden. Aufregende Zeiten. Lassen Sie uns testen und sehen, wie sie sich bei der Erkennung logischer Fehlschlüsse schlagen.

Es gibt dennoch einige gängige Ansätze, um gute Prompts zu formulieren, damit LLMs nicht durcheinanderkommen, wenn sie versuchen zu verstehen, was man von ihnen möchte.

Ich habe verschiedene Tools ausprobiert und bin zu dem Schluss gekommen, dass mir floccus am besten gefällt.

Manchmal braucht man das, kann es aber nicht sofort finden.
Daher behalte ich sie alle hier.

Als ich vor einiger Zeit object detection AI trainierte war LabelImg eine sehr nützliche Werkzeug, aber die Exportfunktion von Label Studio in das COCO-Format wurde vom MMDetection-Framework nicht akzeptiert…

Testing, wie Modelle mit unterschiedlicher Anzahl an Parametern und Quantisierung sich verhalten.

Nachdem Sie Ollama installiert haben, ist es besser, Ollama direkt so zu konfigurieren, dass die Modelle an einem neuen Ort gespeichert werden. So werden neue Modelle nicht mehr in den alten Speicherort heruntergeladen.

Sie können einen Browser-Ad-Blocker-Plugin oder -Add-on für Google Chrome, Firefox oder Safari installieren, müssen dies aber auf jedem Gerät separat durchführen.
Der Netzwerkweite Ad-Blocker ist meine bevorzugte Lösung.

Nach dem Klonen des Git-Repositorys sollten Sie die lokale Repository-Konfiguration vornehmen, insbesondere den Benutzernamen und die E-Mail-Adresse festlegen.

Wenn die Website mit Hugo generiert wird, ist es an der Zeit, sie auf eine Hosting-Plattform zu deployen.
Hier ist ein HowTo, um sie auf AWS S3 zu pushen und mit AWS CloudFront CDN zu servieren.

Vergleich der Vorhersagegeschwindigkeit verschiedener Versionen von LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (Open Source) auf CPU und GPU.