Self-Hosting

Stora språkmodeller (LLMs) är kraftfulla, men i produktion vill vi sällan ha fritt formulerade stycken. Istället vill vi ha förutsägbart data: attribut, fakta eller strukturerade objekt som du kan mata in i en app. Det är LLM Strukturerad Utdata.

För KDE Plasma-fans kommer två Linux-distributioner ofta upp i diskussionen: Kubuntu och KDE Neon. De kan verka liknande - båda levereras med KDE Plasma som standardskrivbord, båda baseras på Ubuntu, och båda är vänliga för nybörjare.

Här jämför jag hur mycket VRAM den nya versionen av Ollama tilldelar modellen (https://www.glukhov.org/sv/post/2025/09/memory-allocation-in-ollama-new-version/ “Ollama VRAM-allokering”) jämfört med tidigare version. Den nya versionen är sämre.

Denna guide kommer att guida dig genom processen att ändra den statiska IP-adressen på en Ubuntu Server.

Ollama har snabbt blivit ett av de mest populära verktygen för att köra LLMs lokalt. Dess enkla CLI och strömlinjeformade modellhantering har gjort det till ett förstahandsval för utvecklare som vill arbeta med AI-modeller utanför molnet. Men som med många lovande plattformar finns det redan tecken på Enshittification:

Mumble är en fri och öppen källkodstalkapplikation för röst över IP (VoIP) som främst är utformad för realtidskommunikation. Den använder en klient-serverarkitektur där användare ansluter till en gemensam server för att prata med varandra.

Lokalt värdade Ollama gör det möjligt att köra stora språkmodeller på din egen dator, men att använda det via kommandoraden är inte användarvänligt. Här är flera öppna källkodsprojekt som erbjuder ChatGPT-stilgränssnitt som ansluter till ett lokalt Ollama.

GPU-lastmätningsprogram: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Här är en steg-för-steg-guide för installation av en 3-nod K3s-kluster på bare-metal servrar (1 master + 2 workers).

Jämförelse av self-hosting Kubernetes-distributioner för värd på bare-metal eller hemservrar, med fokus på enkel installation, prestanda, systemkrav och funktionsuppsättningar.

Jag jämför självvärdande Kubernetes-varianter (https://www.glukhov.org/sv/post/2025/08/kubernetes-distributions-comparison/ “Jämförelse av Kubernetes-distributioner”) som passar för Ubuntu-baserade homelabs med 3 noder (16GB RAM, 4 kärnor vardera), med fokus på enkel installation och underhåll, stöd för persistent volymer och LoadBalancers.

GitHub Actions är en automatiserings- och CI/CD-plattform inom GitHub, som används för att bygga, testa och distribuera din kod baserat på händelser som push, pull requests eller på ett schema.

Här är en Docker Compose cheatsheet med kommenterade exempel för att hjälpa dig behärska Compose-filer och kommandon snabbt.

Här är en detaljerad beskrivning av Obsidian som ett kraftfullt verktyg för personlig kunskapshantering (PKM), som förklarar dess arkitektur, funktioner, styrkor och hur det stöder moderna kunskapsflöden.

Nvidia står inför att släppa NVIDIA DGX Spark - en liten AI-superdator på Blackwell-arkitektur med 128+GB enhetligt RAM och 1 PFLOPS AI-prestanda. En trevlig enhet för att köra LLMs.

Låt oss snabbt titta på Matomo, Plausible, google och andra webbanalysleverantörer och system som är tillgängliga för självvärd och jämföra dem.