Self-Hosting

Jak Ollama Obsługuje Wątki Równoległe

Jak Ollama Obsługuje Wątki Równoległe

Konfiguracja ollama do wykonywania równoległych żądań.

Gdy serwer Ollama otrzymuje dwa żądania jednocześnie, jego zachowanie zależy od konfiguracji i dostępnych zasobów systemowych.

Testowanie Deepseek-R1 na Ollama

Testowanie Deepseek-R1 na Ollama

Porównanie dwóch modeli deepseek-r1 z dwoma modelami bazowymi

Modeli DeepSeek pierwszego pokolenia z wydajnością porównywalną do modeli OpenAI-o1, w tym sześć gęstych modeli oddestylowanych z DeepSeek-R1 opartych na Llama i Qwen.

Selfhosting SearXNG

Selfhosting SearXNG

Niektóre szczegóły dotyczące SearXNG

SearXNG to darmowy i open-source federacyjny metasearch engine, który został wzięty z Searx. Projekt SearXNG na GitHubie ma ponad 15 tys. gwiazdek.

Szybki start z PyInstallerem

Szybki start z PyInstallerem

Połączenie programu w Pythonie w pojedynczy plik

Użyj PyInstaller do pakowania programów Python jako samodzielnych wykonywalnych plików. Działa na Linuxie, Windowsie i Macu.

Nie najbardziej wydajny sposób, ale użyteczny.