RAG

Ketika server Ollama menerima dua permintaan secara bersamaan, perilakunya bergantung pada konfigurasinya dan sumber daya sistem yang tersedia.

Reranking adalah langkah kedua dalam Retrieval Augmented Generation (RAG) systems, yang berada tepat di antara Retrieving dan Generating.

Masih ada beberapa pendekatan umum bagaimana cara menulis prompt yang baik agar LLM tidak bingung mencoba memahami apa yang Anda inginkan darinya.

Menguji bagaimana model dengan jumlah parameter yang berbeda dan kuantisasi berperilaku.