Ollama

本地部署大型语言模型随着开发人员和组织寻求增强的隐私性、减少延迟和对AI基础设施的更大控制权，变得越来越流行。

人工智能的民主化已经到来。
借助像 Llama 3、Mixtral 和 Qwen 这样的开源大语言模型（LLM），团队现在可以使用消费级硬件构建强大的 AI 基础设施 - 在降低成本的同时，仍能完全控制数据隐私和部署。

我找到了一些关于GPT-OSS 120b在三个不同平台上运行的性能测试结果：NVIDIA DGX Spark、Mac Studio和RTX 4080。Ollama库中的GPT-OSS 120b模型大小为65GB，这意味着它无法装入RTX 4080（或更新的RTX 5080的16GB显存中。

在本地运行大型语言模型 (LLMs) 已成为隐私保护、成本控制和离线功能的重要趋势。 2025 年 4 月，Docker 推出了 Docker Model Runner (DMR)，这是其用于 AI 模型部署的官方解决方案，标志着该领域的重大转变。

本指南全面概述了可用于 Ollama 的 Go SDK，并比较了它们的功能集。

以下是 Qwen3:30b 和 GPT-OSS:20b 的比较，重点聚焦于指令遵循和性能参数、规格和速度：

在本文中，我们将探讨两种连接您的 Python 应用程序到 Ollama 的方法：1. 通过 HTTP REST API；2. 通过 官方 Ollama Python 库。

Ollama的GPT-OSS模型在处理结构化输出时经常出现问题，尤其是在与LangChain、OpenAI SDK、vllm等框架一起使用时。

大型语言模型（LLMs）功能强大，但在生产环境中，我们很少希望得到自由形式的段落。相反，我们希望获得可预测的数据：属性、事实或可以输入到应用程序中的结构化对象。这就是LLM结构化输出。

在这里，我比较了新版本 Ollama 为模型分配的 VRAM 量与旧版本 Ollama 的情况。新版本表现更差。

Ollama 已经迅速成为在本地运行大型语言模型（LLMs）最受欢迎的工具之一。
其简单的命令行界面（CLI）和流畅的模型管理功能，使其成为希望在云之外使用 AI 模型的开发人员的首选。
但与许多有前景的平台一样，已经出现了 Enshittification 的迹象：

本地托管的 Ollama 允许你在自己的机器上运行大型语言模型，但通过命令行使用它并不友好。
以下是几个提供 ChatGPT风格界面 的开源项目，它们可以连接到本地的 Ollama。

由于标准 Ollama 没有直接的重排序 API，
您需要通过生成查询-文档对的嵌入向量并对其进行评分来实现使用 Qwen3 重排序器在 GO 中进行重排序。

我测试的三页内容涉及不同主题，其中包含一些结构良好的markdown内容：标题、列表、表格、链接等。

这个小的 Go代码示例重新排序调用Ollama生成嵌入用于查询和每个候选文档，然后按余弦相似度降序排序。

Qwen3 Embedding 和 Reranker 模型是 Qwen 系列的最新发布，专为高级文本嵌入、检索和重排序任务而设计。

本地LLM部署：2025完整指南 - Ollama、vLLM、LocalAI、Jan、LM Studio等