Self-Hosting

Framtiden för AI handlar inte bara om smartare modeller - det handlar om smartare silikon. Specialiserad hårdvara för LLM-inferens driver en revolution liknande Bitcoin-minerings övergång till ASICs.

Nätverket var ursprungligen utformat som ett decentraliserat nätverk där vem som helst kunde publicera och ansluta. Med tiden konsoliderade företagsplattformar kontrollen, skapande stängda trädgårdar där användare är produkter och innehåll är låst in. Indie Web-rörelsen strävar efter att återställa det ursprungliga löftet om webb: personlig äganderätt, kreativ frihet och äkta kontakt.

NVIDIA DGX Spark är verkligt, till salu 15 oktober 2025, och riktar sig till CUDA-utvecklare som behöver lokalt LLM-arbete med en integrerad NVIDIA AI-stack. US MSRP $3,999; UK/DE/JP detaljhandel är högre på grund av moms och kanaler. AUD/KRW offentliga prislappar är inte ännu allmänt publicerade.

Protokollet Gemini (https://www.glukhov.org/sv/post/2025/10/gemini-protocol/ “Gemini-protokollet indieweb”) representerar en återgång till grunderna för internetkommunikation - en lättviktig, säker och integritetsrespektande alternativ till den alltmer komplexa moderna weben.

Den här guiden ger en omfattande översikt över tillgängliga Go SDKs för Ollama och jämför deras funktioner.

Här är en jämförelse mellan Qwen3:30b och GPT-OSS:20b som fokuserar på instruktionsföljande och prestandaparametrar, specifikationer och hastighet:

Här är en snabb information om Write.as / WriteFreely - hur det passar in i fediversumet, var man kan få hanterad värd, hur användningstrenden ser ut och hur man själv värdar (plus grova kostnadsberäkningar).

I det här inlägget kommer vi att utforska två sätt att ansluta din Python-applikation till Ollama: 1. Via HTTP REST API; 2. Via det officiella Ollama Python-biblioteket.

Proxmox Virtual Environment (Proxmox VE) är en öppen källkod, typ-1 hypervisor och datacenter-orkestreringsplattform byggd på Debian.

Låt oss jämföra priser för toppnivå-konsument-GPUs som är lämpliga för LLMs i synnerhet och AI i allmänhet. Specifikt tittar jag på RTX-5080 och RTX-5090-priser. De har något sjunkit.

Ollamas GPT-OSS-modeller har återkommande problem med hantering av strukturerad utdata, särskilt när de används med ramverk som LangChain, OpenAI SDK, vllm och andra.

Stora språkmodeller (LLMs) är kraftfulla, men i produktion vill vi sällan ha fritt formulerade stycken. Istället vill vi ha förutsägbart data: attribut, fakta eller strukturerade objekt som du kan mata in i en app. Det är LLM Strukturerad Utdata.

För KDE Plasma-fans kommer två Linux-distributioner ofta upp i diskussionen: Kubuntu och KDE Neon. De kan verka liknande - båda levereras med KDE Plasma som standardskrivbord, båda baseras på Ubuntu, och båda är vänliga för nybörjare.

Här jämför jag hur mycket VRAM den nya versionen av Ollama tilldelar modellen (https://www.glukhov.org/sv/post/2025/09/memory-allocation-in-ollama-new-version/ “Ollama VRAM-allokering”) jämfört med tidigare version. Den nya versionen är sämre.

Denna guide kommer att guida dig genom processen att ändra den statiska IP-adressen på en Ubuntu Server.

Ollama har snabbt blivit ett av de mest populära verktygen för att köra LLMs lokalt. Dess enkla CLI och strömlinjeformade modellhantering har gjort det till ett förstahandsval för utvecklare som vill arbeta med AI-modeller utanför molnet. Men som med många lovande plattformar finns det redan tecken på Enshittification: