Self-Hosting

Come Ollama gestisce le richieste parallele

Come Ollama gestisce le richieste parallele

Comprendere la concorrenza di Ollama, il code di attesa e come calibrare OLLAMA_NUM_PARALLEL per richieste parallele stabili.

Questa guida spiega come Ollama gestisce le richieste parallele (concorrenza, code e limiti di risorse) e come configurarla utilizzando la variabile d’ambiente OLLAMA_NUM_PARALLEL (e parametri correlati).

Test di Deepseek-R1 su Ollama

Test di Deepseek-R1 su Ollama

Confronto tra due modelli deepseek-r1 e due modelli base

DeepSeek’s prima generazione di modelli di ragionamento con prestazioni paragonabili a quelle di OpenAI-o1, inclusi sei modelli densi distillati da DeepSeek-R1 basati su Llama e Qwen.