Selfhosting

Dieser Abschnitt sammelt Anleitungen zu persistenter Wissens- und Gedächtnisführung in KI-Systemen – wie Assistenten Fakten, Präferenzen und destillierten Kontext über Sitzungen hinweg beibehalten, ohne jeden einzelnen Token in einen einzigen Prompt zu stopfen. Hier bedeutet „Gedächtnis“ die bewusste Speicherung (Nutzerfakten, Zusammenfassungen, speicherbasierte Stores), nicht den GPU-Speicher oder die Modellgewichte.

Aktualisiert im September 2026: Hinzufügung von Mnemosyne und Memori, Erweiterung der Konfiguration für Honcho und Hindsight sowie Hinzufügung eines Vergleichs der Erfassungsrichtlinien neben der ursprünglichen Infrastruktur-Tabelle.

Sie kennen das Spiel. Sie öffnen einen Chat mit einem KI-Agenten, erklären Ihr Projekt, teilen Ihre Präferenzen, erledigen etwas Arbeit und schließen den Tab. Kommen Sie in der folgenden Woche zurück, ist es, als würden Sie mit einem Fremden sprechen – der gesamte Kontext ist verschwunden, jede Präferenz vergessen, das Projekt von Grund auf neu erklärt.

OpenClaw ist als Produkt gescheitert. Es hat seinen Treibstoff verloren.

Eine lange Zeit litt llama.cpp unter einem augenfälligen Mangel: Sie konnten pro Prozess nur ein Modell bereitstellen, und ein Wechsel erforderte einen Neustart.

Persönliches Wissensmanagement umfasst Obsidian, Logseq, DokuWiki, Zettelkasten und PARA – die richtige Wahl hängt davon ab, ob Sie einen lokalen Notizgraphen, ein selbst gehostetes Wiki oder einen Outliner-gesteuerten Workflow bevorzugen.

Der Hermes KI-Assistent, offiziell dokumentiert als Hermes Agent, wird nicht als einfacher Chat-Wrapper positioniert.

OpenClaw verfügt über zwei Erweiterungskonzepte, die leicht verwechselt werden können.

Plugins erweitern die Laufzeitumgebung. Skills erweitern das Verhalten des Agents.

Dieser Artikel handelt von OpenClaw-Plugins — nativen Gateway-Paketen, die Kanäle, Modellanbieter, Tools, Sprachfunktionen, Speicher, Medien, Websuche und andere Laufzeitschnittstellen hinzufügen.

OpenClaw wirkt in Demos einfach. In der Produktion wird es zu einem System.

Vane ist einer der pragmatischeren Vertreter im Bereich „KI-Suche mit Quellenangaben": eine selbst gehostete Antwort-Engine, die die Live-Webrecherche mit lokalen oder Cloud-LLMs kombiniert, während der gesamte Stack unter Ihrer Kontrolle bleibt.

Hermes Agent ist ein selbst gehosteter, modell-agnostischer KI-Assistent, der auf einem lokalen Rechner oder einem kostengünstigen VPS läuft, über Terminal- und Messaging-Schnittstellen arbeitet und mit der Zeit besser wird, indem er wiederkehrende Aufgaben in wiederverwendbare Skills umwandelt.

Text Generation Inference (TGI) hat eine sehr spezifische Energie. Es ist nicht das neueste Kind auf der Inferenz-Straße, aber es ist dasjenige, das bereits gelernt hat, wie Produktion funktioniert –

SGLang ist ein leistungsfähiges Bereitstellungsframework für große Sprachmodelle und multimodale Modelle, das entwickelt wurde, um Inferenz mit geringer Latenz und hohem Durchsatz von einzelnen GPUs bis hin zu verteilten Clustern zu ermöglichen.

Bald jonglierst du mit vLLM, llama.cpp und weiteren – jeder Stack auf seinem eigenen Port. Alles, was downstream liegt, erwartet weiterhin eine einzige /v1-Basis-URL; andernfalls musst du ständig Ports, Profile und Einmalskripte umstellen. llama-swap ist die /v1-Proxy-Schicht vor diesen Stacks.

Die meisten lokalen KI-Setups beginnen mit einem Modell und einer Laufzeitumgebung.