Välj rätt containerarbetsflöde.
Docker Compose och Podman Quadlet löser överlappande problem, men de kommer från olika designperspektiv. Valet mellan dem beror på om du tänker i termer av applikationsstackar eller Linux-tjänster.
Headless Hermes-server med fjärrskrivbordsåtkomst
Att köra Hermes Agent på en headless-server samtidigt som du ansluter från en skrivbordsklient på en annan maskin kräver två serverprocesser och en enda klientanslutning.
Docker Compose vid start, hanterad av systemd.
Docker Compose på en Linux-server bör starta vid systemstart, stoppa smidigt vid avstängning och överleva omstarter utan manuell inblandning.
Välj rätt installationsväg för Docker på Ubuntu.
Installation av Docker på Ubuntu bör vara enkel, men i praktiken konkurrerar flera olika Docker-installationsmetoder om samma kommandonamn, var och en med olika paketering, uppdateringsbeteende och säkerhetsimplikationer.
Pålitliga pollingmönster för AI-agenter.
Pollningagenter är en av de minst glamourösa delarna av arkitekturen för AI-assistenter, men de är också en av de mest användbara.
Diagram som kod, utan krångel.
Mermaid är ett textbaserat verktyg för diagramskapning, riktat till de som föredrar att skriva diagram framför att dra runt rutor på en canvas. Det använder en Markdown-liknande syntax för att beskriva flödesdiagram, sekvensdiagram, klassdiagram, statmaskiner, tidslinjer, Gantt-diagram, entitetsrelationsdiagram och mer.
Hur seriösa assistenter faktiskt byggs.
Ett produktionsberett AI-assistent är inte “en LLM med en prompt”. Det är ett system som accepterar avsikt, behåller tillstånd, avgör när det ska hämta data eller utföra åtgärder, och exponerar tillräckligt med detaljer om körningen för att kunna felsöka misslyckanden.
Frigör VRAM utan att stoppa llama-server.
Routerläge för llama.cpp är en av de mest användbara förändringarna i llama-server på flera år. Det ger slutligen lokala aktörer av LLM (Large Language Models) något som liknar modellhanteringsupplevelsen som man förväntar sig från Ollama, samtidigt som det behåller den råa prestanda och den lågnivåkontroll som gör llama.cpp värd att använda i första hand.
Styra Hermes Kanban-belastningen på din egenhostade LLM.
Hermes Agent levereras med ett Kanban-styrt flödessystem och Hermes Gateway, vilket kan mätta din egenhostade LLM om för många uppgifter skickas ut samtidigt.
Servera och byt LLM:er utan omstarter.
I en längre tid hade llama.cpp en påtaglig begränsning:
du kunde bara servera en modell per process, och att byta krävde en omstart.
Plugin först. En kort sammanfattning av färdighetsnamn.
Den här artikeln handlar om OpenClaw-tillägg — inbyggda gateway-paket som lägger till kanaler, modellleverantörer, verktyg, röstminne, media, webbsökning och andra runtime-ytor.
Installation och snabbstart av Hermes Agent för utvecklare
Hermes Agent är en självhostad, modellagnostisk AI-assistent som körs på en lokal maskin eller en lågkostnad VPS, fungerar via terminal- och meddelande gränssnitt och förbättras över tid genom att omvandla upprepade uppgifter till återanvändbara färdigheter.
Remote Ollama-åtkomst utan publika portar
Ollama är som mest lyckligt när det behandlas som en lokal daemon: CLI:n och dina appar pratar med en loopback HTTP-API, och resten av nätverket får aldrig veta att det finns.
Ollama-server med komposition i förgrunden, GPU och uthållighet.
Ollama fungerar utmärkt på “bare metal”. Det blir ännu mer intressant när du behandlar det som en tjänst: en stabil slutpunkt, fastlagda versioner, beständig lagring och en GPU som antingen är tillgänglig eller inte.
HTTPS för Ollama utan att störa strömande svar.
Att köra Ollama bakom en omvänd proxy är det enklaste sättet att få HTTPS, valfri åtkontroll och förutsägbart strömmande beteende.
Tillståndsbaserad strömning, kontrollpunkter, K8s, PyFlink, Go.
Apache Flink är ett ramverk för statusbevarande beräkningar över obegränsade och begränsade dataströmmar.
