AI

大型语言模型（LLMs） 功能强大，但在生产环境中，我们很少希望得到自由形式的段落。 相反，我们希望获得可预测的数据：属性、事实或可以输入到应用程序中的结构化对象。 这就是LLM结构化输出。

在这里，我比较了新版本 Ollama 为模型分配的 VRAM 量与旧版本 Ollama 的情况。新版本表现更差。

Ollama 已经迅速成为在本地运行大型语言模型（LLMs）最受欢迎的工具之一。
其简单的命令行界面（CLI）和流畅的模型管理功能，使其成为希望在云之外使用 AI 模型的开发人员的首选。
但与许多有前景的平台一样，已经出现了 Enshittification 的迹象：

本地托管的 Ollama 允许你在自己的机器上运行大型语言模型，但通过命令行使用它并不友好。
以下是几个提供 ChatGPT风格界面 的开源项目，它们可以连接到本地的 Ollama。

以下是最新版的GitHub Copilot快捷键指南，涵盖了Visual Studio Code和Copilot Chat的必备快捷键、命令、使用技巧和上下文功能。

《The Pragmatic Engineer》信件在几天前发布了一项关于2025年中期编程语言、IDE和AI工具等的流行度调查统计和其他数据。

NVIDIA 即将发布 NVIDIA DGX Spark - 基于 Blackwell 架构的小型 AI 超级计算机，配备 128GB 以上统一内存和 1 PFLOPS 的 AI 性能。这是运行大型语言模型（LLM）的理想设备。

这里我们对**模型上下文协议（MCP）**进行了描述，简要说明了如何用Go语言实现一个MCP服务器，包括消息结构和协议规范。

由于标准 Ollama 没有直接的重排序 API，
您需要通过生成查询-文档对的嵌入向量并对其进行评分来实现 使用 Qwen3 重排序器在 GO 中进行重排序。

在一个寒冷的七月冬天……
那是在澳大利亚……
我感到迫切需要训练一个AI模型，用于检测未封口的混凝土钢筋……

在这项测试中，我正在比较不同LLMs在Ollama上如何将Hugo页面从英语翻译成德语。

我测试的三页内容涉及不同主题，其中包含一些结构良好的markdown内容：标题、列表、表格、链接等。

这个小的 Go代码示例重新排序调用Ollama生成嵌入 用于查询和每个候选文档， 然后按余弦相似度降序排序。

Qwen3 Embedding 和 Reranker 模型 是 Qwen 系列的最新发布，专为高级文本嵌入、检索和重排序任务而设计。

在现代世界纷乱的环境中，我在这里比较不同显卡的技术规格，这些显卡适用于AI任务 (深度学习， 目标检测
和大语言模型）。 不过它们都非常昂贵。

氛围编程 是一种由人工智能驱动的编程方法，开发者通过自然语言描述所需的功能，从而让人工智能工具自动生成代码。

我之前使用过 MMDetection (mmengine, mdet, mmcv)，用得不少，
但现在看起来它似乎已经退出了舞台。
真可惜，我喜欢它的模型库。