SelfHosting

Een LLM Wiki faalt wanneer oude feiten aannemelijk blijven, tegenstrijdigheden worden gepolijst en gegenereerde samenvattingen afwijken van hun bronnen.

Syncthing houdt bestanden gesynchroniseerd tussen apparaten die jij beheert, waardoor het een van de meest praktische tools is voor een zelfgehoste kennisinfrastructuur die cloud-lock-in vermijdt.

Het landschap van AI-hardware is in 2026 aanzienlijk verschoven, waarbij NVIDIA, AMD en Intel allemaal concurreren om ontwikkelaars die GPUs nodig hebben die geschikt zijn voor het lokaal draaien van grote taalmodellen (LLMs) en AI-inferentiewerklasten.

Het uitvoeren van de Hermes Agent op een headless server terwijl je vanaf een desktopclient op een andere machine verbinding maakt, vereist twee serverprocessen en één clientverbinding.

Docker Compose op een Linux-server moet bij het opstarten starten, tijdens het afsluiten netjes stoppen en herstarts overleven zonder handmatige ingrepen.

Het installeren van Docker op Ubuntu zou eenvoudig moeten zijn, maar in de praktijk concurreren verschillende Docker-achtige opties om dezelfde commandonamen, elk met verschillende pakketindeling, upgrade-gedrag en veiligheidsimplicaties.

Apt-fouten komen veel voor op Ubuntu-systemen die al langere tijd draaien, en ze treden meestal op na een versie-upgrade, een wijziging in een extern repository, een verwijderde PPA, een handmatig geïnstalleerde .deb-bestand of een onderbroken pakketinstallatie.

Geheugen verandert assistenten van reactief naar persistent, maar het is ook waar veel systemen stil verlopen. Onderzoeken betoogen dat de splitsing tussen kortetermijn- en langetermijngeheugen niet langer voldoende is voor modern agentengeheugen; OpenAI en LangGraph SDK’s wijzen op een eenvoudigere stack — werkgeheugen, duurzame staat en ophaling.

Open-source AI-agentframeworks winnen explosief aan populariteit op GitHub. Twee projecten die centraal staan in het ecosysteem van zelfgehoste AI-systemen — OpenClaw en Hermes Agent — zijn zo ver vooruit gelopen dat de rest van het veld strijdt om een verre derde plaats.

Ik heb de prestaties van speculatief decoderen (Multi-Token Prediction, MTP) getest in Qwen 3.6 27B en 35B op een RTX 4080 met 16 GB VRAM.

Routermodus van llama.cpp is een van de meest nuttige wijzigingen aan llama-server in jaren. Het geeft lokale LLM-beheerders eindelijk iets dat lijkt op de modelbeheerservaring die mensen verwachten van Ollama, terwijl het de ruwe prestaties en lage-level controle behoudt die llama.cpp in de eerste plaats de moeite waard maken.

Deze pagina is een praktische referentie voor het afstemmen van agentische LLM-inferentie (temperatuur, top_p, top_k, penalties en hoe deze interacteren in meervoudige stappen en workflows met veel hulpmiddelen).

Je chat al met Hermes Agent via je telefoon met tekst. Nu wil je er direct mee praten en gesproken antwoorden terugkrijgen. Dat is meestal de juiste zet, zeker als je al Hermes als een persistente, zelf gehoste assistent gebruikt. Het typen van lange prompts op een klein scherm is traag en foutgevoelig.

Hermes Agent wordt geleverd met een Kanban-stijl board en de Hermes Gateway, die uw self-hosted LLM kan verzadigen als er te veel taken tegelijk worden uitgestuurd.

Hermes Agent behandelt vaardigheden (skills) als de standaardmanier om herhaalbare werkstromen te leren. De officiële documentatie beschrijft ze als kennisdocumenten op aanvraag, afgestemd op de open agentskills.io specificatie, die worden geladen via progressive disclosure (stapsgewijze onthulling), zodat het model eerst een kleine index ziet en volledige instructies alleen ophaalt wanneer een taak dit daadwerkelijk vereist.

Hermes Agent van Nous Research is een modelagnostische, toolgebruikende assistent die lokaal of op een VPS wordt uitgevoerd.