AI

SGLang is een high-performance framework voor het uitvoeren van inference bij grote taalmodellen en multimodale modellen, ontworpen om lage latentie en hoge doorvoer te leveren, variërend van een enkele GPU tot gedistribueerde clusters.

Binnenkort juggle je vLLM, llama.cpp en meer – elk stack op zijn eigen poort. Alles downstream wil nog steeds één /v1-basis-URL; anders blijf je poorten, profielen en eenmalige scripts shuffelen. llama-swap is de /v1-proxy voor die stacks.

De meeste lokale AI-opstellingen beginnen met een model en een runtime.

Oh My Opencode belooft een “virtueel AI-ontwikkelteam” — Sisyphus die specialisten coördineert, taken die parallel worden uitgevoerd en het magische ultrawork-sleutelwoord dat alles activeert.

De grootste sprong in capaciteit in OpenCode komt van gespecialiseerde agents: een doordachte scheiding van orkestratie, planning, uitvoering en onderzoek.

Oh My Opencode maakt van OpenCode een multi-agent codeerhulpmiddel: een orchestrator delegeert werk aan specialistische agenten die parallel draaien.

Ik heb getest hoe OpenCode werkt met verschillende lokaal gehoste LLM’s via Ollama, en ter vergelijking heb ik ook enkele gratis modellen van OpenCode Zen toegevoegd.

OpenHands is een open-source, model-agnostisch platform voor door AI-aangedreven softwareontwikkelingsagenten.
Het stelt een agent in staat om zich meer te gedragen als een programmeerpartner dan als een eenvoudig hulpmiddel voor automatische voltooijing.

LocalAI is een self-hosted, local-first inference server die ontworpen is om te gedragen als een drop-in OpenAI API voor het uitvoeren van AI-werklasten op uw eigen hardware (laptop, workstation of on-premise server).

Ik kom steeds terug bij llama.cpp voor lokale inferentie — het geeft je controle die Ollama en anderen abstracten, en het werkt gewoon. Eenvoudig om GGUF-modellen interactief te draaien met llama-cli of een OpenAI-compatibele HTTP API te tonen met llama-server.

Kunstmatige intelligentie (AI) verandert de manier waarop software wordt geschreven, gecontroleerd, uitgezet en onderhouden. Van AI-coderingsassistenten tot GitOps-automatisering en DevOps-werkstromen, ontwikkelaars vertrouwen nu op AI-aangedreven tools in de volledige softwarelevenscyclus.

Airtable is het beste te beschouwen als een low-code toepassingsplatform dat is opgebouwd rondom een samenwerkende “database-achtige” spreadsheet UI - ideaal voor het snel maken van operationele tools (interne trackers, lichte CRM’s, content pijplijnen, AI evaluatie wachtrijen) waarbij niet-ontwikkelaars een vriendelijke interface nodig hebben, maar ontwikkelaars ook een API oppervlak nodig hebben voor automatisering en integratie.

OpenCode is een open source AI-coding agent die je in de terminal kunt uitvoeren (TUI + CLI) met optionele desktop- en IDE-interfaces. Dit is de OpenCode Snelstartgids: installeren, verifiëren, een model/aanbieder koppelen en echte workflows uitvoeren (CLI + API).

LLM-inferentie lijkt op “gewoon een API” — tot er plots sprongen in latentie optreden, wachtrijen zich opbouwen en je GPUs op 95% geheugen zitten zonder duidelijke verklaring.

OpenClaw is een zelfgehoste AI-assistent die is ontworpen om te draaien met lokale LLM-runtime zoals Ollama of met cloudgebaseerde modellen zoals Claude Sonnet.

De meeste lokale AI-installaties beginnen op dezelfde manier: een model, een runtime en een chatinterface.