Self-Hosting

In diesem Test vergleiche ich, wie verschiedene LLMs, die auf Ollama gehostet werden, Hugo-Seiten von Englisch ins Deutsche übersetzen: Vergleich, wie verschiedene LLMs, die auf Ollama gehostet werden, Hugo-Seiten übersetzen. Drei Seiten, die ich getestet habe, befassen sich mit unterschiedlichen Themen und enthalten einige schöne Markdown-Elemente mit Struktur: Überschriften, Listen, Tabellen, Links usw.

Dieses kleine Reranking Go-Codebeispiel ruft Ollama auf, um Embeddings zu generieren für die Abfrage und für jede Kandidatendokumente, dann Sortierung absteigend nach Kosinusähnlichkeit.

Vor genau 3 Monaten haben wir die RTX 5090 noch nicht in Geschäften gesehen, und jetzt sind sie hier, aber die Preise sind leicht höher als die MRSP.

Lasst uns die günstigsten Preise für RTX 5080 und RTX 5090 in Australien vergleichen und sehen, wie es weitergeht.

YaCy ist eine dezentrale, Peer-to-Peer-(P2P)-Suchmaschine, die ohne zentrale Server arbeitet und es Nutzern ermöglicht, lokale oder globale Indizes zu erstellen und durch Abfragen verteilter Peers Suchvorgänge durchzuführen.

Top Automatisiertes System für eine großartige Aufgabe.

Die Qwen3 Embedding und Reranker Modelle sind die neuesten Veröffentlichungen in der Qwen-Familie und wurden speziell für fortgeschrittene Text-Embedding-, Retrieval- und Reranking-Aufgaben entwickelt.

Schon seit geraumer Zeit plagt mich diese lästige Sache, Thumbnail-Bilder der Seiten in das statische Verzeichnis zu legen: Thumbnail-Bilder der Seiten.

Das gilt für Mainroad, Rodster und ähnliche Hugo-Themen.

Wie PCIe-Lanes die LLM-Performance beeinflussen? Je nach Aufgabe. Bei Training und Multi-GPU- Inferenz ist der Leistungsverlust erheblich.

Der nächste Schritt besteht darin, einige CI/CD-Tools zu implementieren und Gitea Actions für die Hugo-Website, um die Website automatisch auf AWS S3 zu pushen einzurichten, sobald der Master-Branch aktualisiert wird.

Im Ollama-Modell-Repository gibt es Modelle, die in der Lage sind, HTML-Inhalt in Markdown umzuwandeln – was für Aufgaben der Inhaltskonvertierung nützlich ist.

Hier finden Sie eine Übersicht über einige AI-betriebene Coding-Tools und ihre Vorzüge:

Ich habe eine Theorie, die ich testen möchte – wenn man alle Kerne eines Intel-Prozessors nutzt, würde das die Geschwindigkeit von LLMs erhöhen? Test: Wie Ollama die Leistung und effizienten Kerne von Intel-Prozessoren nutzt

Es stört mich, dass das neue Gemma3-Modell mit 27 Bit (gemma3:27b, 17 GB auf Ollama) nicht in die 16 GB VRAM meines GPUs passt und teilweise auf dem CPU läuft.

MinIO bietet zwei Standard-UIs an: (1) MinIO Console – das ist eine Web-Oberfläche und (2) MinIO Command – dies ist eine Befehlszeile mit mc.

MinIO ist ein quelloffenes, leistungsstarkes, verteiltes Objekt-Speichersystem, das vollständig mit der Amazon S3 API kompatibel ist.

Inmitten der Turbulenzen der modernen Welt hier vergleiche ich die technischen Spezifikationen verschiedener Grafikkarten für KI-Aufgaben
(Deep Learning,
Objekterkennung
und LLMs).
Sie sind jedoch alle unglaublich teuer.