Selfhosting

Syncthing hält Dateien auf den von Ihnen kontrollierten Geräten synchronisiert und ist damit eines der praktischsten Tools für eine selbst gehostete Wissensinfrastruktur, die Cloud-Lock-in vermeidet.

Die Landschaft der KI-Hardware hat sich 2026 erheblich verändert. NVIDIA, AMD und Intel konkurrieren alle um Entwickler, die GPUs benötigen, die in der Lage sind, lokale Large Language Models (LLMs) und KI-Inferenz-Arbeitslasten auszuführen.

Das Ausführen des Hermes-Agenten auf einem headless-Server bei gleichzeitiger Verbindung von einem Desktop-Client auf einer anderen Maschine erfordert zwei Serverprozesse und eine einzelne Client-Verbindung.

Ein Docker Compose-Projekt auf einem Linux-Server sollte beim Booten starten, beim Herunterfahren sauber gestoppt werden und Neustarts ohne manuelle Eingriffe überstehen.

Die Installation von Docker auf Ubuntu sollte einfach sein, aber in der Praxis konkurrieren mehrere docker-spezifische Optionen um den gleichen Befehlsnamen, wobei jede unterschiedliche Paketierung, Upgrade-Verhalten und Sicherheitsimplikationen mit sich bringt.

APT-Fehler sind auf langläufigen Ubuntu-Systemen häufig und treten meist nach einem Release-Upgrade, einer Änderung eines Drittanbieter-Repositorys, der Entfernung eines PPA, einer manuell installierten .deb-Datei oder einer unterbrochenen Paketinstallation auf.

Speicher wandelt Assistenten von reaktiv in persistent um, aber genau dort verrotten auch viele Systeme still vor sich hin. Umfragen zeigen, dass die Trennung in Kurzzeit- und Langzeitgedächtnis für modernes Agenten-Gedächtnis nicht mehr ausreicht; OpenAI und LangGraph-SDKs deuten auf einen simpleren Stack hin — Arbeitsgedächtnis, dauerhafter Zustand und Abruf (Retrieval).

Open-Source-KI-Agent-Frameworks erleben auf GitHub einen rasanten Popularitätsanstieg. Zwei Projekte im Kern des Ökosystems für self-hosted KI-Systeme — OpenClaw und Hermes Agent — haben einen solchen Vorsprung herausgearbeitet, dass der Rest des Feldes um einen weit entfernten dritten Platz kämpft.

Ich habe die Leistung des spekulativen Dekodierens (Multi-Token Prediction, MTP) in Qwen 3.6 27B und 35B auf einer RTX 4080 mit 16 GB VRAM getestet.

llama.cpp Router-Modus ist eine der nützlichsten Änderungen an llama-server in den letzten Jahren. Er gibt lokalen LLM-Betreibern endlich etwas, das dem Modellmanagement-Erlebnis ähnelt, das man von Ollama erwartet, während er die rohe Leistung und die niedrige Kontrollstufe beibehält, die llama.cpp überhaupt erst interessant machen.

Diese Seite dient als praktische Referenz für die Optimierung der agentischen LLM-Inferenz (Temperatur, top_p, top_k, Penalties und deren Interaktion in mehrstufigen und tool-lastigen Workflows).

Sie chatten bereits mit dem Hermes-Agenten auf Ihrem Smartphone über Text. Jetzt möchten Sie direkt mit ihm sprechen und gesprochene Antworten erhalten. Das ist in der Regel der richtige Schritt, insbesondere wenn Sie Hermes bereits als persistenten, selbst gehosteten Assistenten nutzen. Lange Prompts auf einem kleinen Bildschirm einzutippen ist langsam und fehleranfällig.

Hermes Agent wird mit einem Kanban-stilisierten Board und dem Hermes Gateway ausgeliefert, das Ihren selbst gehosteten LLM sättigen kann, wenn zu viele Aufgaben gleichzeitig zugewiesen werden.

Hermes Agent behandelt Skills als die Standardmethode, wiederholbare Workflows zu lehren. Die offizielle Dokumentation beschreibt sie als auf Abruf verfügbare Wissensdokumente, die dem offenen agentskills.io-Standard entsprechen und über progressive Offenlegung geladen werden, sodass das Modell zuerst einen kleinen Index sieht und nur dann die vollständigen Anweisungen lädt, wenn eine Aufgabe dies tatsächlich erfordert.

Hermes Agent von Nous Research ist ein modellunabhängiger, werkzeugnutzender Assistent, den Sie lokal oder auf einem VPS ausführen können – aus der Shell, einem Vollbild-TUI oder einem Messaging-Gateway.

Die MinIO Community Edition ist keine sichere Standardeinstellung mehr für neue Produktionssysteme.