DevOps

Selbstgehostete LLMs ermöglichen die Kontrolle über Daten, Modelle und Inferenz - ein praktischer Weg zur AI-Souveränität für Teams, Unternehmen und Nationen.
Hier: Was AI-Souveränität ist, welche Aspekte und Methoden zur Erstellung verwendet werden, wie LLM-Selbsthosting dabei eine Rolle spielt und wie Länder das Problem angehen.

Das Rust-Ökosystem erlebt einen Boom mit innovativen Projekten, insbesondere bei KI-Programmierwerkzeugen und Terminalanwendungen. Diese Übersicht analysiert die Top-Trending-Rust-Repositories auf GitHub dieses Monats.

Das Go-Ökosystem floriert weiterhin mit innovativen Projekten, die sich auf KI-Tools, selbstgehostete Anwendungen und Entwicklerinfrastruktur erstrecken. Diese Übersicht analysiert die Top-Trending-Go-Repositories auf GitHub diesen Monat.

Die Linux-Display-Server-Landschaft hat sich in den letzten Jahrzehnten dramatisch weiterentwickelt. Wayland, das als ehrgeiziges Projekt begann, um den veralteten X11 (X Window System) zu ersetzen, ist nun der Standard auf den wichtigsten Linux-Distributionen.

Eines der wichtigsten Werkzeuge für Linux-Benutzer ist der Terminal-Emulator.

Open WebUI ist eine leistungsstarke, erweiterbare und funktionsreiche selbstgehostete Webschnittstelle zur Interaktion mit großen Sprachmodellen.

vLLM ist ein hochleistungsfähiger, speichereffizienter Inference- und Serving-Engine für Large Language Models (LLMs), entwickelt vom Sky Computing Lab der UC Berkeley.

Sie installieren KVM auf Ubuntu 24.04, indem Sie die CPU-Virtualisierungsunterstützung überprüfen, die KVM/libvirt-Pakete installieren, den libvirtd-Dienst aktivieren und (optional) virt-manager für eine GUI installieren.

Ein gut konfigurierter Bash-Prompt, der Git-Repository-Informationen anzeigt kann Ihren Entwicklungsworkflow erheblich verbessern.

Universelle Paketmanager haben die Linux-Softwareverteilung revolutioniert und die plattformübergreifende Kompatibilität ermöglicht. Snap und Flatpak haben sich als führende Lösungen etabliert, jede mit eigenen Philosophien zur Lösung von Abhängigkeitshölle und Verteilungsfragmentierung.

Nach der automatischen Installation eines neuen Kernels hat Ubuntu 24.04 das Ethernet-Netzwerk verloren. Dieses frustrierende Problem trat bei mir ein zweites Mal auf, daher dokumentiere ich hier die Lösung, um anderen zu helfen, die dasselbe Problem haben.

Bereitstellung einer Hugo-Statik-Website auf AWS S3 mit der AWS CLI bietet eine robuste, skalierbare Lösung für die Hosting Ihrer Website. Diese Anleitung behandelt den gesamten Bereitstellungsprozess, von der anfänglichen Einrichtung bis zu fortgeschrittenen Automatisierungs- und Cache-Management-Strategien.

Tabellengetriebene Tests sind der idiomatische Go-Ansatz für effizientes Testen mehrerer Szenarien. In Kombination mit paralleler Ausführung mithilfe von t.Parallel() können Sie die Laufzeit des Test-Suits erheblich reduzieren, insbesondere für I/O-intensive Operationen.

API-Dokumentation ist entscheidend für jede moderne Anwendung, und für Go APIs Swagger (OpenAPI) hat sich zum Branchenstandard entwickelt. Für Go-Entwickler bietet swaggo eine elegante Lösung, um umfassende API-Dokumentation direkt aus Code-Anmerkungen zu generieren.

Lokale Bereitstellung von LLMs ist zunehmend beliebt, da Entwickler und Organisationen eine verbesserte Privatsphäre, geringere Latenz und eine größere Kontrolle über ihre KI-Infrastruktur suchen.

Moderne Go-Entwicklung erfordert strenge Code-Qualitätsstandards. Linters für Go automatisieren die Erkennung von Fehlern, Sicherheitslücken und Stilanomalien, bevor sie in die Produktion gelangen.