Serwuj i przełączaj modele LLM bez restartów.
Przez długi czas llama.cpp miała rażący ograniczenie:
można było obsłużyć tylko jeden model na proces, a przełączanie wymagało ponownego uruchomienia.
SGLang – szybkie uruchamianie otwartych modeli.
SGLang to wysokowydajny framework do obsługi dużych modeli językowych i multimodalnych, zaprojektowany do zapewnienia niskiego opóźnienia i wysokiej przepustowości podczas wnioskowania, niezależnie od tego, czy działa na pojedynczej karcie GPU, czy w rozproszonych klastrach.
Gorące wymiana lokalnych modeli LLM bez konieczności zmiany klientów.
Wkrótce będziesz balansować między vLLM, llama.cpp i innymi rozwiązaniami – każdy stos na własnym porcie. Wszystko w dalszym ciągu oczekuje jednego podstawowego adresu URL /v1; inaczej ciągle będziesz przesuwać porty, profile i skrypty ad-hoc. llama-swap jest proxy /v1 przed tymi stosami.
Jak zainstalować, skonfigurować i wykorzystać OpenCode
Nieustannie wracam do llama.cpp do lokalnej inferencji – daje ono kontrolę, którą Ollama i inne narzędzia abstrahują, i po prostu działa. Łatwo uruchomić modele GGUF interaktywnie za pomocą llama-cli lub wystawić kompatybilne z OpenAI API HTTP za pomocą llama-server.
