Self-Hosting

2025년 말에 메모리 시장은 예상치 못한 가격 변동을 겪고 있으며, 모든 세그먼트에서 RAM 가격 상승이 극심하게 나타나고 있습니다.

로컬에서 LLM 실행은 개발자와 조직이 보안을 강화하고 지연 시간을 줄이며 AI 인프라에 대한 통제력을 높이려는 노력에 따라 점점 더 인기를 얻고 있습니다.

최상위 소비자용 GPU의 가격을 비교해 보겠습니다. 특히 LLM(대규모 언어 모델)에 적합하며, 일반적으로 AI에도 적합한 제품을 대상으로 합니다.
구체적으로 저는
RTX-5080 및 RTX-5090 가격을 살펴보고 있습니다.

AI의 민주화 시대가 도래했습니다.
Llama 3, Mixtral, Qwen과 같은 오픈소스 LLM이 이제는 전용 모델과 경쟁할 수 있을 정도로 발전했으며, 팀은 소비자 하드웨어를 사용하여 강력한 AI 인프라를 구축할 수 있습니다. 이는 비용을 절감하면서도 데이터 프라이버시와 배포에 대한 완전한 통제를 유지할 수 있습니다.

프로메테우스 는 클라우드 네이티브 애플리케이션 및 인프라를 모니터링하는 데 facto 표준이 되었으며, 메트릭 수집, 쿼리, 시각화 도구와의 통합을 제공합니다.

Grafana은 메트릭, 로그, 트레이스를 시각화하여 실행 가능한 통찰을 제공하는 모니터링 및 관찰 플랫폼으로, 시각적으로 인상적인 시각화를 통해 리딩 오픈소스 플랫폼입니다.

Kubernetes StatefulSets은 안정적인 정체성, 지속 가능한 저장소, 순서 있는 배포 패턴이 필요한 상태가 있는 애플리케이션을 관리하는 데 이상적인 솔루션입니다. 데이터베이스, 분산 시스템, 캐싱 레이어와 같은 필수적인 작업에 사용됩니다.

FLUX.1-dev 은 텍스트에서 이미지를 생성하는 강력한 모델로, 놀라운 결과를 제공하지만 24GB 이상의 메모리 요구 사항으로 인해 많은 시스템에서 실행하기 어렵습니다. GGUF quantization of FLUX.1-dev 은 메모리 사용량을 약 50% 줄이며 우수한 이미지 품질을 유지하는 해결책을 제공합니다.

도커 모델 러너에서 컨텍스트 크기 구성은 예상보다 더 복잡합니다.

블랙 포레스트 랩스는 텍스트 지시문을 사용하여 기존 이미지를 향상시키는 고급 이미지에서 이미지로 생성하는 AI 모델인 FLUX.1-Kontext-dev를 출시했습니다.

Docker Model Runner은 로컬에서 AI 모델을 실행하기 위한 Docker의 공식 도구이지만, NVIDIA GPU 가속을 Docker Model Runner에서 활성화하기 위해서는 특정한 설정이 필요합니다.

올바른 헤드리스 CMS를 선택하는 것은 콘텐츠 관리 전략을 성공적으로 만들거나 망하게 만들 수 있습니다.
개발자가 콘텐츠 중심 애플리케이션을 구축하는 방식에 영향을 미치는 세 가지 오픈소스 솔루션을 비교해 보겠습니다.

Nextcloud은 데이터에 대한 완전한 통제를 제공하는 최고의 오픈소스, 자체 호스팅 클라우드 저장소 및 협업 플랫폼입니다.

Immich는 사진 및 영상 관리에 대한 완전한 제어권을 제공하는 혁신적인 오픈소스, 자체 호스팅 솔루션입니다. 구글 포토와 경쟁할 수 있는 기능을 갖추고 있으며, AI 기반 얼굴 인식, 스마트 검색, 자동 모바일 백업을 포함하여 데이터를 개인 서버에서 안전하게 보호합니다.

Elasticsearch은 Apache Lucene 기반의 강력한 분산 검색 및 분석 엔진입니다.
이 포괄적인 체크리스트는 Elasticsearch 클러스터와 함께 작업할 때 필수 명령어, 최선의 실천 방법, 그리고 빠른 참조를 다룹니다.

저는 NVIDIA DGX Spark, Mac Studio, 그리고 RTX 4080 세 가지 다른 플랫폼에서 Ollama를 사용하여 GPT-OSS 120b의 흥미로운 성능 테스트 결과를 조사했습니다. Ollama 라이브러리에서 제공하는 GPT-OSS 120b 모델은 65GB의 크기를 가지며, 이는 RTX 4080의 16GB VRAM에 맞지 않으므로, 또는 더 최근의 RTX 5080에도 맞지 않습니다.