Strukturiertes Logging in Go mit slog für Observability und Alerting

Strukturiertes Logging in Go mit slog für Observability und Alerting

Abfragbare JSON-Logs, die mit Traces verknüpft sind.

Logs sind eine Debugging-Schnittstelle, die Sie noch verwenden können, wenn das System im Brand ist. Das Problem ist, dass reine Text-Logs schlecht altern: Sobald Sie Filterung, Aggregation und Alarmierung benötigen, beginnen Sie, Sätze zu parsen.

Ollama in Docker Compose mit GPU und persistenter Model-Speicherung

Ollama in Docker Compose mit GPU und persistenter Model-Speicherung

Compose-first Ollama-Server mit GPU und Persistenz.

Ollama läuft hervorragend auf Bare-Metal-Systemen. Es wird noch interessanter, wenn man es wie einen Dienst behandelt: mit einem stabilen Endpunkt, festgelegten Versionen, persistentem Speicher und einer GPU, die entweder verfügbar ist oder eben nicht.

Text-Embeddings für RAG und Suche – Python, Ollama, OpenAI-kompatible APIs

Text-Embeddings für RAG und Suche – Python, Ollama, OpenAI-kompatible APIs

RAG-Einbettungen – Python, Ollama, OpenAI-APIs.

Wenn Sie sich mit retrieval-augmented generation (RAG) beschäftigen, führt dieser Abschnitt Sie in einfachen Worten durch Text-Embeddings – was sie sind, wie sie in Suche und Abruf passen und wie man zwei gängige lokale Setups von Python aus mit Ollama oder einer OpenAI-kompatiblen HTTP-API aufruft (wie sie von vielen llama.cpp-basierten Servern bereitgestellt werden).

Netlify für Hugo und statische Websites: Preismodelle, Gratis-Tier und Alternativen

Netlify für Hugo und statische Websites: Preismodelle, Gratis-Tier und Alternativen

Git-basierte Bereitstellungen, CDN, Credits und Trade-offs.

Netlify ist eine der entwicklerfreundlichsten Methoden, um Hugo-Websites und moderne Webanwendungen mit einem Workflow auf Produktionsniveau zu veröffentlichen: Vorschau-URLs für jede Pull-Request, atomare Bereitstellungen, ein globales CDN sowie optionale serverlose und Edge-Funktionen.

llama.swap Modellumschalter: Schnelleinstieg für OpenAI-kompatible lokale LLMs

llama.swap Modellumschalter: Schnelleinstieg für OpenAI-kompatible lokale LLMs

Lokale LLMs per Hot-Swap austauschen, ohne die Clients anzupassen.

Bald jonglierst du mit vLLM, llama.cpp und weiteren – jeder Stack auf seinem eigenen Port. Alles, was downstream liegt, erwartet weiterhin eine einzige /v1-Basis-URL; andernfalls musst du ständig Ports, Profile und Einmalskripte umstellen. llama-swap ist die /v1-Proxy-Schicht vor diesen Stacks.

Abonnieren

Neue Beiträge zu Systemen, Infrastruktur und KI-Engineering.