Cheatsheet

En lång tid hade llama.cpp en uppenbar begränsning:
du kunde bara servera en modell per process, och byte innebar ett omstart.

Batch-filer och skript behöver ofta en kort paus så att ett fönster som öppnats med dubbelklick eller en installationslogg syns. Windows CMD har ett dedikerat pause-kommando. Unix-shells använder read.

SGLang är ett högpresterande ramverk för servering av stora språkmodeller och multimodala modeller, byggt för att leverera inferens med låg latens och hög genomströmning över allt från en enda GPU till distribuerade kluster.

Snart kastar du mellan vLLM, llama.cpp och mer – varje stack på sin egen port. Allt nedströms vill fortfarande ha en enda bas-URL /v1; annars fortsätter du att shuffla med portar, profiler och skript för enskilda fall. llama-swap är /v1-proxyn som ligger framför dessa stackar.

OpenHands är en öppen källkodsplattform som är modellagnostisk för AI-drivna agenter för mjukvaruutveckling. Den låter en agent bete sig mer som en kodpartner än ett enkelt verktyg för automatisk komplettering.

LocalAI är en självhostad, lokal-först inferensserver designad för att bete sig som en drop-in OpenAI API för att köra AI-arbetsbelastningar på din egen hårdvara (bärbar dator, arbetsstation eller on-prem-server).

Jag återvänder alltid till llama.cpp för lokal inferens – det ger dig kontroll som Ollama och andra abstraherar bort, och det fungerar helt enkelt. Det är enkelt att köra GGUF-modeller interaktivt med llama-cli eller exponera en OpenAI-kompatibel HTTP-API med llama-server.

OpenCode är en öppen källkod AI-kodningsagent som du kan köra i terminalen (TUI + CLI) med valbara gränssnitt för skrivbordet och IDE. Detta är OpenCode Snabbspår: installera, verifiera, koppla en modell/leverantör och kör verkliga arbetsflöden (CLI + API).

Välj rätt browserautomatiseringsstack och webscraping i Go påverkar hastighet, underhåll och var din kod kör.

Skrivbordslanschare på Ubuntu 24 (och de flesta Linux-skrivbord) definieras av .desktop-filer: små, textbaserade konfigurationsfiler som beskriver ett program eller länk.

Välj rätt webbläsarautomatiseringsstack i Python påverkar hastighet, stabilitet och underhåll. Den här översikten jämför Playwright vs Selenium vs Puppeteer vs LambdaTest vs ZenRows vs Gauge - med fokus på Python, medan det noteras var Node.js eller andra språk passar in.

Två starka alternativ för att bygga terminalanvändargränssnitt idag är BubbleTea (Go) och Ratatui (Rust). En ger dig en opinionsbaserad, Elm-stilad ramverk; den andra en flexibel, omedelbar lägebibliotek.

Öka produktiviteten i Jupyter Notebook med essentiella genvägar, magiska kommandon och arbetsflödesråd som kommer att förvandla din dataanalys- och utvecklingsexperiens.

Linjändningsinkonsekvenser mellan Windows och Linux system orsakar formateringsproblem, Git-varningar och skriptfel. Den här omfattande guiden täcker detektion, omvandling och förebyggande strategier.

Tabeller är en av de kraftfullaste funktionerna i Markdown för att organisera och presentera strukturerad data. Oavsett om du skapar teknisk dokumentation, README-filer eller bloggposter, så kan förståelsen för hur man korrekt formaterar tabeller betydligt förbättra läsbarheten och professionelliteten i din innehåll. Den här guiden är en del av vår Dokumentationsverktyg 2026: Markdown, LaTeX, PDF & Skrivningsflöden hub.

Flatpak är en nästa generations teknik för att bygga och distribuera skrivbordsprogram på Linux, som erbjuder universell paketering, sandboxing och smidig korsdistributionskompatibilitet.