开放 WebUI:自托管 LLM 界面
适用于本地大语言模型的自托管ChatGPT替代方案
Open WebUI 是一个功能强大、可扩展且功能丰富的自托管网页界面,用于与大型语言模型进行交互。
适用于本地大语言模型的自托管ChatGPT替代方案
Open WebUI 是一个功能强大、可扩展且功能丰富的自托管网页界面,用于与大型语言模型进行交互。
2026年墨尔本科技必看日历
墨尔本科技社区在2026年继续蓬勃发展,一系列令人印象深刻的会议、聚会和研讨会涵盖了软件开发、云计算、人工智能、网络安全和新兴技术等多个领域。
通过 OpenAI API 实现快速的 LLM 推理
vLLM 是由加州大学伯克利分校 Sky Computing Lab 开发的用于大型语言模型 (LLMs) 的高性能、内存高效的推理和服务引擎。
用 linters 和自动化工具掌握 Go 代码质量
现代 Go 开发要求严格的代码质量标准。Go 的 Linter 在代码进入生产环境之前,会自动检测 bug、安全漏洞和风格不一致的问题。
使用 Go 微服务构建强大的 AI/ML 管道
随着人工智能和机器学习工作负载变得越来越复杂,对强大的编排系统的需求也变得更为迫切。Go语言的简洁性、性能和并发特性使其成为构建机器学习流水线的编排层的理想选择,即使模型本身是用Python编写的。
在预算硬件上部署企业级AI,使用开放模型
人工智能的民主化已经到来。
借助像 Llama 3、Mixtral 和 Qwen 这样的开源大语言模型(LLM),团队现在可以使用消费级硬件构建强大的 AI 基础设施 - 在降低成本的同时,仍能完全控制数据隐私和部署。
使用Prometheus建立强大的基础设施监控系统
Prometheus 已成为监控云原生应用程序和基础设施的实际标准,提供指标收集、查询和与可视化工具的集成。
掌握 Grafana 的设置,用于监控与可视化
Grafana 是领先的开源监控和可观测性平台,通过令人惊叹的可视化将指标、日志和跟踪转化为可操作的见解。
使用 Helm 包管理的 Kubernetes 部署
Helm 已彻底改变 Kubernetes 应用程序部署,通过引入传统操作系统中熟悉的软件包管理概念。
使用有序扩展和持久数据部署有状态应用
Kubernetes StatefulSets 是管理需要稳定身份、持久存储和有序部署模式的有状态应用程序的最佳解决方案,对于数据库、分布式系统和缓存层至关重要。
完整安全指南 - 静态数据、传输中数据、运行时数据
当数据成为一种宝贵的资产时,保护它从未如此关键。
从信息被创建的那一刻起,到最终被丢弃,
其旅程充满了各种风险——无论是存储、传输,还是主动使用。
部署生产就绪的服务网格 - Istio 与 Linkerd
了解如何使用Istio和Linkerd实现和优化服务网格架构。本指南涵盖部署策略、性能比较、安全配置以及生产环境的最佳实践。
在家庭实验室集群上安装轻量级 k3s Kubernetes
以下是逐步操作指南,介绍如何在裸金属服务器(1个主节点 + 2个工作节点)上**安装一个3节点K3s集群**。
Kubernetes 变体的简要概述
比较 自托管 Kubernetes 发行版,用于在裸机或家庭服务器上部署,重点关注安装简便性、性能、系统要求和功能集。
逐步指南
如何安装 Kubernetes:使用 Kubespray 安装 Kubernetes,包括设置环境、配置清单和运行 Ansible playbook。
一些常用的带参数的 k8s 命令