RAG

Gdy serwer Ollama otrzymuje dwa żądania w tym samym czasie, jego zachowanie zależy od konfiguracji i dostępnych zasobów systemowych.

Reranking to drugi etap generacji wzbogacanej wyszukiwaniem (RAG) systemów, pośrodku między wyszukiwaniem a generowaniem.

Nadal istnieją pewne powszechne podejścia do pisania dobrych promptów, dzięki czemu LLM nie będzie się pogubił, próbując zrozumieć, czego od niego oczekujesz.

Testowanie działania modeli o różnej liczbie parametrów i stopniu kwantyzacji.