Docker

Samodzielnie hostowany agent AI potrzebuje czegoś więcej niż długiego okna kontekstu. Wymaga sposobu na zachowywanie użytecznych faktów, odzyskiwanie wcześniejszych decyzji oraz korygowanie swojej wiedzy w miarę ewolucji projektów.

ROCm i Vulkan przyspieszają GPU AMD do hostowania lokalnych modeli LLM, ale nie są zamiennymi. Prawidłowy wybór zależy od silnika, GPU i obciążenia.

Ollama to jeden z najprostszych sposobów na uruchomienie lokalnego modelu językowego, jednak wygoda może ukrywać moment, w którym lokalny eksperyment staje się współdzieloną usługą inferencyjną wymagającą lepszego planowania zadań i obserwowalności.

Docker Compose i Podman Quadlet rozwiązują częściowo nakładające się problemy, ale pochodzą z różnych ośrodków projektowych. Wybór między nimi zależy od tego, czy myślisz w kategoriach stosów aplikacji, czy usług Linuxa.

Skrypt Docker Compose na serwerze Linux powinien uruchamiać się przy starcie systemu, zatrzymywać się poprawnie przy wyłączaniu oraz przetrwać ponowne uruchomienia bez interwencji człowieka.

Instalacja Dockera na Ubuntu powinna być prostym zadaniem, ale w praktyce kilka opcji „w kształcie Dockera” rywalizuje o tę samą nazwę polecenia, każda z inną pakietacją, zachowaniem podczas aktualizacji oraz implikacjami bezpieczeństwa.

Vane to jeden z bardziej pragmatycznych projektów w przestrzeni „AI-search z cytatami”: samodzielnie hostowany silnik odpowiedzi, który łączy wyszukiwanie na żywej sieci z modelami LLM (lokalnymi lub w chmurze), a jednocześnie pozwala zachować pełną kontrolę nad całym stackiem.

Hermes Agent to hostowany we własnym zakresie, agnostyczny względem modelu asystent AI, działający na komputerze lokalnym lub tanim VPS. Komunikuje się przez interfejs terminala i komunikatory, z czasem zwiększając swoje możliwości, zmieniając powtarzalne zadania w ponownie używalne umiejętności.

Text Generation Inference (TGI) ma bardzo specyficzną energię. Nie jest najmłodszym dzieckiem na ulicy inferencji, ale jest tym, które już nauczyło się, jak produkcja się psuje –

Ollama świetnie działa na “gołym” metalu (bez warstwy wirtualizacji). Staje się jeszcze ciekawszy, gdy traktujesz go jak usługę: stabilny punkt końcowy, przypięte wersje, trwałe przechowywanie danych oraz GPU, które jest dostępne, lub go nie ma.

Neo4j to narzędzie, do którego sięgamy, gdy relacje są danymi. Jeśli domena Twojego projektu wygląda jak tablica kreskowa z kółkami i strzałkami, wymuszanie jej na tabele jest bolesne.

SGLang to wysokowydajny framework do obsługi dużych modeli językowych i multimodalnych, zaprojektowany do zapewnienia niskiego opóźnienia i wysokiej przepustowości podczas wnioskowania, niezależnie od tego, czy działa na pojedynczej karcie GPU, czy w rozproszonych klastrach.

Wkrótce będziesz jugglingiem w vLLM, llama.cpp i wielu innych — każdy stack na własnym porcie. Wszystkie komponenty dół wciąż wymagają jednego /v1 bazowego adresu URL; inaczej będziesz w nieskończoność przesuwać porty, profile i jednorazowe skrypty. llama-swap to /v1 proxy umieszczane przed tymi stackami.

Apache Kafka 4.2.0 to obecnie wspierana linia wydania, a także najlepsze podstawy dla nowoczesnego przewodnika szybkiego startu, ponieważ Kafka 4.x jest w pełni niezależna od ZooKeepera i domyślnie zbudowana wokół KRaft.

Rozwój oprogramowania obejmuje Git do kontroli wersji, Dockera do konteneryzacji, basha do automatyzacji, PostgreSQL do baz danych oraz VS Code do edycji — wraz z niezliczonymi innymi narzędziami, które decydują o Twojej produktywności. Ta strona zbiera niezbędne ściągawki, przepływy pracy i porównania, których potrzebujesz do efektywnej pracy w całym stosie developerskim.

OpenHands to otwartoźródłowy agent do kodowania, który edytuje pliki i wykonuje polecenia w środowisku odizolowanym. Ten szybki kurs CLI został sprawdzony 26.10.2026 w oparciu o pakiet 1.16.0.