Self-Hosting

GPU-Lastüberwachungsanwendungen: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Hier ist eine Schritt-für-Schritt-Anleitung zur Installation eines 3-Knoten-K3s-Clusters auf Bare-Metal-Servern (1 Master + 2 Worker).

Vergleich von selbstgehosteten Kubernetes-Distributionen für die Hosting auf Bare-Metal oder Heimservern, mit Fokus auf Einfachheit der Installation, Leistung, Systemanforderungen und Funktionsumfang.

Ich vergleiche selbstgehostete Kubernetes-Varianten, die für ein auf Ubuntu basierendes Homelab mit 3 Knoten (16 GB RAM, 4 Kerne pro Knoten) geeignet sind, wobei der Fokus auf einfacher Einrichtung und Wartung, Unterstützung für Persistent Volumes und LoadBalancer liegt.

GitHub Actions ist eine Automatisierungs- und CI/CD-Plattform innerhalb von GitHub, die verwendet wird, um Ihren Code basierend auf Ereignissen wie Pushes, Pull Requests oder nach einem Zeitplan zu erstellen, zu testen und zu deployen.

Hier ist ein Docker Compose Cheat Sheet mit annotierten Beispielen, um Ihnen zu helfen, Compose-Dateien und Befehle schnell zu meistern.

Hier ist eine detaillierte Aufschlüsselung von Obsidian als leistungsfähiges Werkzeug für Personal Knowledge Management (PKM), das seine Architektur, Funktionen, Stärken und die Unterstützung moderner Wissensworkflows erklärt.

Nvidia steht kurz vor der Veröffentlichung von NVIDIA DGX Spark - einem kleinen AI-Supercomputer auf Blackwell-Architektur mit 128+GB einheitlichem RAM und 1 PFLOPS AI-Leistung. Eine schöne Vorrichtung, um LLMs auszuführen.

Lasst uns einen schnellen Blick auf Matomo, Plausible, Google und andere Webanalysedienste und -systeme werfen, die für die Selbsthosting-Option verfügbar sind, und vergleichen sie.

Hier ist mein bevorzugter Satz von Schritten bei einer frischen Installation von Ubuntu 24.04. Was mir hier gefällt - es ist nicht nötig, NVidia-Treiber zu installieren! Sie werden automatisch installiert.

Dokuwiki ist eine selbstgehostete Wikipedia, die einfach vor Ort gehostet werden kann und keine Datenbanken erfordert. Ich habe es dockerisiert auf meinem privaten Kubernetes-Cluster betrieben.

Lassen Sie uns die Preise für Top-Level-Consumer-GPUs vergleichen, die insbesondere für LLMs und KI im Allgemeinen geeignet sind. Speziell schauen Sie sich die RTX 5080- und RTX 5090-Preise an. Sie sind leicht gesunken.

Apache Airflow ist eine Open-Source-Plattform, die entwickelt wurde, um Workflows programmatisch zu erstellen, zu planen und zu überwachen – vollständig in Python-Code, wodurch eine flexible und leistungsstarke Alternative zu traditionellen, manuellen oder UI-basierten Workflow-Tools geboten wird.

Da das standardmäßige Ollama keinen direkten Rerank-API-Anschluss hat, müssen Sie Reranking mit Qwen3 Reranker in GO implementieren, indem Sie Embeddings für Abfrage-Dokument-Paare generieren und sie bewerten.

In diesem Test vergleiche ich, wie verschiedene LLMs, die auf Ollama gehostet werden, Hugo-Seiten von Englisch ins Deutsche übersetzen: Vergleich, wie verschiedene LLMs, die auf Ollama gehostet werden, Hugo-Seiten übersetzen. Drei Seiten, die ich getestet habe, befassen sich mit unterschiedlichen Themen und enthalten einige schöne Markdown-Elemente mit Struktur: Überschriften, Listen, Tabellen, Links usw.