Self-Hosting

Docker Model Runner är Docks officiella verktyg för att köra AI-modeller lokalt, men aktivera NVidia GPU-acceleration i Docker Model Runner kräver specifik konfiguration.

Att välja rätt headless CMS kan avgöra om din innehållshanteringsstrategi blir framgångsrik eller misslyckas. Låt oss jämföra tre öppna källkods-lösningar som påverkar hur utvecklare bygger innehållsdrivna applikationer.

Nextcloud är den ledande öppna källkodsplattformen för självvärd molnlagring och samarbete som ger dig full kontroll över dina data.

Immich är en revolutionerande open-source, självhostad lösning för hantering av foton och videoklipp som ger dig full kontroll över dina minnen. Med funktioner som konkurrerar med Google Photos - inklusive AI-drivet ansiktsigenkänning, smart sökning och automatisk mobilbackup - allt medan dina data förblir privata och säkra på din egen server.

Elasticsearch är en kraftfull distribuerad sökmotor och analysmotor byggd på Apache Lucene. Denna omfattande snabbreferens täcker essentiella kommandon, bästa praxis och korta referenser för att jobba med Elasticsearch-kluster.

Jag hittade några intressanta prestandatest av GPT-OSS 120b som kör på Ollama över tre olika plattformar: NVIDIA DGX Spark, Mac Studio, och RTX 4080. GPT-OSS 120b-modellen från Ollama-biblioteket väger 65 GB, vilket innebär att den inte passar in i den 16 GB VRAM som finns på en RTX 4080 (eller den nyare RTX 5080).

Docker Model Runner (DMR) är Docks officiella lösning för att köra AI-modeller lokalt, introducerad i april 2025. Den här cheatsheten ger en snabb referens för alla viktiga kommandon, konfigurationer och bästa praxis.

Att köra stora språkmodeller (LLMs) lokalt har blivit alltmer populärt för skydd av integritet, kostnadsstyrning och möjlighet att använda modeller offline. Landskapet förändrades betydligt i april 2025 när Docker introducerade Docker Model Runner (DMR), sin officiella lösning för distribution av AI-modeller.

I dagens datormiljö har virtualisering blivit avgörande för utveckling, testning och körning av flera operativsystem. För Linux-användare som söker ett enkelt och intuitivt sätt att hantera virtuella maskiner, sticker GNOME Boxes ut som ett lättviktigt och användarvänligt alternativ som prioriterar enkelhet utan att offra funktionalitet.

Multipass är en lättviktshanterare för virtuella maskiner som gör det enkelt att skapa och hantera Ubuntu-molninstanser på Linux, Windows och macOS.

Medan Google dominerar sökmotorsmarknaden med över 90% global marknadsandel, finns det en växande ekosystem av alternativa sökmotorer som erbjuder olika tillvägagångssätt för webbsökning.

Framtiden för AI handlar inte bara om smartare modeller. Det handlar också om kiselbaserad hårdvara som matchar hur dessa modeller faktiskt serveras. Specialiserad hårdvara för LLM-inferens följer en väg som påminner om Bitcoin-gruvdrifts övergång från GPU till specialbyggda ASIC, men med hårdare begränsningar eftersom modeller och precisionsschemat ständigt utvecklas.

Nätverket var ursprungligen utformat som ett decentraliserat nätverk där vem som helst kunde publicera och ansluta. Med tiden konsoliderade företagsplattformar kontrollen, skapande stängda trädgårdar där användare är produkter och innehåll är låst in. Indie Web-rörelsen strävar efter att återställa det ursprungliga löftet om webb: personlig äganderätt, kreativ frihet och äkta kontakt.

NVIDIA DGX Spark är en realitet, till salu 15 oktober 2025, och riktar sig mot CUDA-utvecklare som behöver lokal LLM-arbete med en integrerad NVIDIA AI-stack. US MSRP $3 999; UK/DE/JP-pris är högre på grund av moms och kanal. AUD/KRW-priser är ännu inte allmänt postade.

Protokollet Gemini (https://www.glukhov.org/sv/post/2025/10/gemini-protocol/ “Gemini-protokollet indieweb”) representerar en återgång till grunderna för internetkommunikation - en lättviktig, säker och integritetsrespektande alternativ till den alltmer komplexa moderna weben.

Den här guiden ger en omfattande översikt över tillgängliga Go SDK:er för Ollama och jämför deras funktionssätt.