Self-Hosting

다음은 Write.as / WriteFreely에 대한 간단한 정보입니다: fediverse에 어떻게 통합되는지, 관리형 호스팅을 어디서 구할 수 있는지, 사용 트렌드는 어떻게 되는지, 그리고 어떻게 자체 호스팅할 수 있는지(비용 예상 포함).

이 포스트에서는 Python 애플리케이션을 Ollama에 연결하는 방법에 대해 두 가지 방법을 소개합니다: 1. HTTP REST API를 통해; 2. 공식 Ollama Python 라이브러리를 통해.

**Proxmox Virtual Environment (Proxmox VE)**는 Debian 기반으로 만들어진 오픈소스, 타입-1 하이퍼바이저 및 데이터센터 오케스트레이션 플랫폼입니다.

LLM 을 비롯한 AI 작업에 적합한 최상위 소비자용 GPU 의 가격을 비교해 보겠습니다. 특히 RTX-5080 과 RTX-5090 가격 에 주목합니다. 가격이 약간 하락했습니다.

Ollama의 GPT-OSS 모델은 특히 LangChain, OpenAI SDK, vllm과 같은 프레임워크와 함께 사용될 때 구조화된 출력을 처리하는 데 반복적으로 문제가 발생합니다.

대규모 언어 모델(LLM) 은 강력하지만, 프로덕션 환경에서는 자유형식(paragraph) 응답을 원하는 경우가 드뭅니다. 대신, 애플리케이션에 직접 입력할 수 있는 예측 가능한 데이터, 즉 속성, 사실 또는 구조화되어 객체를 원합니다. 이것이 바로 LLM 구조화 출력입니다.

KDE Plasma 팬들에게 자주 논의되는 두 가지 Linux 배포판이 있습니다: Kubuntu와 KDE Neon. 이들은 유사해 보입니다 - 둘 다 기본 데스크톱으로 KDE Plasma 를 탑재하고, 둘 다 Ubuntu 를 기반으로 하며, 둘 다 초보자에게 친화적입니다.

여기에서 저는 새로운 버전의 Ollama가 모델에 얼마나 많은 VRAM을 할당하는지와 이전 버전의 Ollama를 비교하고 있습니다. 새로운 버전은 오히려 더 나빠졌습니다.

이 가이드는 Ubuntu 서버에서 정적 IP 주소 변경 방법을 단계별로 안내합니다.

Ollama은 로컬에서 LLM을 실행하는 도구 중 하나인 가장 인기 있는 도구로 빠르게 부상했습니다. 그것의 단순한 CLI, 그리고 세련된 모델 관리 기능은 클라우드 밖에서 AI 모델로 작업하려는 개발자들에게 필수적인 옵션으로 만들었습니다.

Mumble은 주로 실시간 음성 통신을 위해 설계된 무료이고 오픈소스의 음성 통화(VoIP) 애플리케이션입니다. 사용자들이 공유된 서버에 연결하여 서로와 대화할 수 있도록 클라이언트-서버 아키텍처를 사용합니다.

로컬에서 호스팅된 Ollama는 자신의 기계에서 대규모 언어 모델을 실행할 수 있게 해주지만, 명령줄을 통해 사용하는 것은 사용자 친화적이지 않습니다.
다음은 로컬 Ollama에 연결되는 **ChatGPT 스타일 인터페이스**를 제공하는 여러 오픈소스 프로젝트입니다.

GPU 로드 모니터링 애플리케이션: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

3노드 K3s 클러스터의 설치 단계별 가이드를 아래에 제공합니다.
이 가이드는 물리 서버(1 마스터 + 2 워커)에서 실행되는
**3노드 K3s 클러스터 설치**에 대한 것입니다.

자체 호스팅 Kubernetes(self-hosting Kubernetes) 분포를 비교하여, 베어메탈 또는 홈 서버에 호스팅할 때 설치 용이성, 성능, 시스템 요구사항, 기능 세트에 초점을 맞추고 있습니다.

저는 Ubuntu 기반 홈랩에 적합한 3개 노드(각각 16GB RAM, 4코어)를 갖춘 자체 호스팅 Kubernetes 변형을 비교하고 있으며, 설치 및 유지보수가 용이하고, Persistent Volumes(PV) 및 LoadBalancer(LB) 서비스를 지원하는 것을 중심으로 살펴보고 있습니다.