Selfhosting

Ta sekcja zbiera przewodniki dotyczące trwałej wiedzy i pamięci w systemach AI — w jaki sposób asystenci zachowują fakty, preferencje i skondensowany kontekst między sesjami, bez pakowania każdego tokena do jednego promptu. Tutaj „pamięć” oznacza celowe przechowywanie (fakty o użytkownikach, podsumowania, magazyny wspierane przez wtyczki), a nie pamięć RAM GPU ani wagi modeli.

Zaktualizowano we wrześniu 2026: dodano Mnemosyne i Memori, rozszerzono konfigurację Honcho oraz Hindsight, a także dodano porównanie polityk przechwytywania obok oryginalnej tabeli infrastrukturalnej.

Znasz ten scenariusz. Otwierasz czat z agentem AI, tłumaczysz mu swój projekt, dzielisz się swoimi preferencjami, wykonujesz część pracy i zamykasz kartę. Wracasz tydzień później i czujesz się, jakbyś rozmawiał z kimś obcym — cały kontekst zniknął, każda preferencja została zapomniana, a projekt trzeba wyjaśnić od nowa.

OpenClaw nie przegrał jako produkt. Po prostu wyczerpało się jego paliwo.

Przez długi czas llama.cpp miała rażący ograniczenie:
można było obsłużyć tylko jeden model na proces, a przełączanie wymagało ponownego uruchomienia.

Osobiste zarządzanie wiedzą obejmuje Obsidian, Logseq, DokuWiki, Zettelkasten oraz metodę PARA – właściwy wybór zależy od tego, czy preferujesz lokalny graf notatek, wiki hostowane samodzielnie, czy też workflow oparty na outlinerze.

Asystent AI Hermes, oficjalnie dokumentowany jako Hermes Agent, nie jest pozycjonowany jako prosty interfejs czatu.

OpenClaw posiada dwa rodzaje rozszerzeń, które łatwo pomylić.

Wtyczki rozszerzają środowisko wykonawcze. Umiejętności (Skills) rozszerzają zachowanie agenta.

Ten artykuł dotyczy wtyczek OpenClaw — natywnych pakietów bramkowych, które dodają kanały, dostawców modeli, narzędzia, funkcje głosowe, pamięć, media, wyszukiwanie w sieci oraz inne warstwy środowiska wykonawczego.

OpenClaw wygląda prosto w demonstracjach. W środowisku produkcyjnym staje się on systemem.

Vane to jeden z bardziej pragmatycznych projektów w przestrzeni „AI-search z cytatami”: samodzielnie hostowany silnik odpowiedzi, który łączy wyszukiwanie na żywej sieci z modelami LLM (lokalnymi lub w chmurze), a jednocześnie pozwala zachować pełną kontrolę nad całym stackiem.

Hermes Agent to hostowany we własnym zakresie, agnostyczny względem modelu asystent AI, działający na komputerze lokalnym lub tanim VPS. Komunikuje się przez interfejs terminala i komunikatory, z czasem zwiększając swoje możliwości, zmieniając powtarzalne zadania w ponownie używalne umiejętności.

Text Generation Inference (TGI) ma bardzo specyficzną energię. Nie jest najmłodszym dzieckiem na ulicy inferencji, ale jest tym, które już nauczyło się, jak produkcja się psuje –

SGLang to wysokowydajny framework do obsługi dużych modeli językowych i multimodalnych, zaprojektowany do zapewnienia niskiego opóźnienia i wysokiej przepustowości podczas wnioskowania, niezależnie od tego, czy działa na pojedynczej karcie GPU, czy w rozproszonych klastrach.

Wkrótce będziesz jugglingiem w vLLM, llama.cpp i wielu innych — każdy stack na własnym porcie. Wszystkie komponenty dół wciąż wymagają jednego /v1 bazowego adresu URL; inaczej będziesz w nieskończoność przesuwać porty, profile i jednorazowe skrypty. llama-swap to /v1 proxy umieszczane przed tymi stackami.

Większość lokalnych konfiguracji AI zaczyna się od modelu i środowiska wykonawczego.