Как Ollama обрабатывает параллельные запросы

Как Ollama обрабатывает параллельные запросы

Понимание параллелизма и очереди в Ollama, а также настройка OLLAMA_NUM_PARALLEL для стабильной обработки параллельных запросов.

В этом руководстве объясняется как Ollama обрабатывает параллельные запросы (конкурентность, очередь и ограничения ресурсов), и как настроить это с помощью переменной окружения OLLAMA_NUM_PARALLEL (и связанных параметров).

Установка Portainer в Linux

Установка Portainer в Linux

Немного системного администрирования

Возможно, теперь эту статью следует назвать инженерия платформ, так как она стала такой. Вот несколько заметок о том, как установить Portainer и удалить его — графический интерфейс для управления образами и контейнерами Docker.

Извлекайте изображения из PDF-файлов с помощью poppler

Извлекайте изображения из PDF-файлов с помощью poppler

Когда вам нужно извлечь изображение из файла PDF

Иногда действительно возникает необходимость сохранить изображения из PDF без использования скриншотов или отображения PDF на экране. pdfimages поможет в этом. Эта статья является частью нашего Руководства по инструментам документации 2026: Markdown, LaTeX, PDF и рабочие процессы печати хаба.

Шпаргалка по Base64: примеры команд для Windows, Linux и Mac

Шпаргалка по Base64: примеры команд для Windows, Linux и Mac

Кодирование и декодирование Base64 в Windows, Linux и macOS.

В этой шпаргалке показано, как кодировать и декодировать Base64 на Windows, Linux и macOS с помощью certutil, PowerShell и base64, включая флаги, которые различаются в зависимости от системы.

Тестирование Deepseek-R1 на Ollama

Тестирование Deepseek-R1 на Ollama

Сравнение двух моделей deepseek-r1 с двумя базовыми

DeepSeek’s первая генерация моделей рассуждений с производительностью, сопоставимой с OpenAI-o1, включает шесть плотных моделей, дистиллированных на основе Llama и Qwen.

Подписаться

Получайте новые материалы про системы, инфраструктуру и AI engineering.