DevOps

对于Linux用户来说，最必不可少的工具之一是终端模拟器。

Open WebUI 是一个功能强大、可扩展且功能丰富的自托管网页界面，用于与大型语言模型进行交互。

vLLM 是由加州大学伯克利分校 Sky Computing Lab 开发的用于大型语言模型 (LLMs) 的高性能、内存高效的推理和服务引擎。

你在 Ubuntu 24.04 上安装 KVM，方法是检查 CPU 虚拟化支持、安装 KVM/libvirt 软件包、启用 libvirtd 服务，并（可选）安装 virt‑manager 以获得图形界面。

一个配置良好的显示 git 仓库信息的 bash 提示符可以显著提升你的开发工作流程。

通用包管理器彻底改变了 Linux 软件分发方式，使跨发行版兼容性成为现实。Snap 和 Flatpak 作为领先的解决方案出现，各自以不同的理念解决依赖地狱和发行版碎片化问题。

在自动安装新内核后，Ubuntu 24.04 丢失以太网网络。这个问题第二次出现在我身上，因此我在此记录解决方法，以帮助遇到相同问题的其他人。

使用 AWS CLI 将 Hugo 静态站点部署到 AWS S3 可以提供一个强大且可扩展的解决方案，用于托管您的网站。本指南涵盖了从初始设置到高级自动化和缓存管理策略的完整部署过程。

以表格驱动测试的方式是 Go 的惯用方法，用于高效地测试多个场景。 当与 t.Parallel() 结合使用以并行执行时，您可以显著减少测试套件的运行时间，尤其是在 I/O 密集型操作中。

API 文档对于任何现代应用程序都至关重要，对于 Go APIs Swagger（OpenAPI）已成为行业标准。 对于 Go 开发人员来说，swaggo 提供了一种优雅的解决方案，可以直接从代码注释生成全面的 API 文档。

本地部署大型语言模型 随着开发人员和组织寻求增强的隐私性、减少延迟和对AI基础设施的更大控制权，变得越来越流行。

现代 Go 开发要求严格的代码质量标准。Go 的 Linter 在代码进入生产环境之前，会自动检测 bug、安全漏洞和风格不一致的问题。

Python linters 是必不可少的工具，它们可以在不执行代码的情况下分析代码中的错误、风格问题和潜在的 bug。 它们强制执行编码标准，提高可读性，并帮助团队维护高质量的代码库。

随着人工智能和机器学习工作负载变得越来越复杂，对强大的编排系统的需求也变得更为迫切。Go语言的简洁性、性能和并发特性使其成为构建机器学习流水线的编排层的理想选择，即使模型本身是用Python编写的。

Python打包 已经有了显著的发展，现代工具和标准使得分发你的代码比以往任何时候都更容易。

人工智能的民主化已经到来。
借助像 Llama 3、Mixtral 和 Qwen 这样的开源大语言模型（LLM），团队现在可以使用消费级硬件构建强大的 AI 基础设施 - 在降低成本的同时，仍能完全控制数据隐私和部署。