AI

검색 증강 생성 (RAG)은 단순한 벡터 유사도 검색을 훨씬 넘어 진화해 왔습니다. LongRAG, Self-RAG, GraphRAG는 이러한 기능의 최전선을 대표합니다.

FLUX.1-dev 은 텍스트에서 이미지를 생성하는 강력한 모델로, 놀라운 결과를 제공하지만 24GB 이상의 메모리 요구 사항으로 인해 많은 시스템에서 실행하기 어렵습니다. GGUF quantization of FLUX.1-dev 은 메모리 사용량을 약 50% 줄이며 우수한 이미지 품질을 유지하는 해결책을 제공합니다.

Docker 모델 러너에서 컨텍스트 크기 구성은 예상보다 더 복잡한 경우가 많습니다.

블랙 포레스트 랩스는 텍스트 지시문을 사용하여 기존 이미지를 향상시키는 고급 이미지에서 이미지로 생성하는 AI 모델인 FLUX.1-Kontext-dev를 출시했습니다.

Docker Model Runner은 AI 모델을 로컬에서 실행하는 Docker의 공식 도구이지만,
Docker Model Runner에서 NVidia GPU 가속 기능 활성화
은 특정 설정이 필요합니다.

토큰 최적화는 비용 효율적인 LLM 애플리케이션을 예산 소모 실험과 구분 짓는 핵심 기술입니다.

Immich는 사진 및 영상 관리에 대한 완전한 제어권을 제공하는 혁신적인 오픈소스, 자체 호스팅 솔루션입니다. 구글 포토와 경쟁할 수 있는 기능을 갖추고 있으며, AI 기반 얼굴 인식, 스마트 검색, 자동 모바일 백업을 포함하여 데이터를 개인 서버에서 안전하게 보호합니다.

저는 Ollama에서 실행되는 GPT-OSS 120b의 성능 테스트 결과를 NVIDIA DGX Spark, Mac Studio, RTX 4080 세 가지 플랫폼에서 확인해보았습니다. Ollama 라이브러리에서 제공하는 GPT-OSS 120b 모델의 크기는 65GB로, RTX 4080의 16GB VRAM에 맞지 않으며, 더 최근의 RTX 5080에도 맞지 않습니다.

모델 컨텍스트 프로토콜(MCP)은 AI 어시스턴트가 외부 데이터 소스 및 도구와 상호 작용하는 방식을 혁신하고 있습니다. 이 가이드에서는 웹 검색 및 스크래핑 기능에 초점을 맞춘 MCP 서버를 Python으로 구축 방법을 살펴보겠습니다.

Docker Model Runner (DMR)은 2025년 4월에 도입된 Docker의 공식 솔루션으로, 로컬에서 AI 모델을 실행하는 데 사용됩니다. 이 가이드는 모든 필수 명령, 구성 및 최선의 실천 방법을 위한 빠른 참조를 제공합니다.

로컬에서 대규모 언어 모델(LLM) 실행 는 프라이버시, 비용 관리 및 오프라인 기능을 위해 점점 더 인기를 끌고 있습니다. 2025년 4월에 Docker가 Docker Model Runner (DMR), AI 모델 배포를 위한 공식 솔루션을 도입하면서 상황은 크게 변화했습니다.

AI의 미래는 단순히 더 스마트한 모델에 관한 것이 아닙니다. 동시에, 이러한 모델이 실제로 서빙되는 방식에 부합하는 실리콘 기술에 관한 것이기도 합니다. LLM 추론을 위한 전용 하드웨어는 비트코인 마이닝이 GPU에서 목적론적 ASIC로 이동했던 경로를 떠올리게 하며, 모델과 정밀도 레시피가 계속 진화하기 때문에 더 어려운 제약 사항이 따릅니다.

**NVIDIA DGX Spark**는 실제로 존재하며, 2025년 10월 15일부터 판매가 시작되어 통합 NVIDIA AI 스택과 함께 로컬 LLM 작업이 필요한 CUDA 개발자를 대상으로 하고 있습니다. 미국 소비자 권장 정가(MSRP)는 3,999달러이며, 영국/독일/일본의 소매 가격은 부가가치세(VAT)와 유통 채널에 따라 더 높은 편입니다. 호주/한국의 공개 스티커 가격은 아직 널리 게시되지 않았습니다.

이 가이드에서는 Ollama용 Go SDK에 대한 포괄적인 개요를 제공하고 기능 세트를 비교합니다.

다음은 Qwen3:30b와 GPT-OSS:20b 비교 내용입니다. 지시 따름 능력(instruction following)과 성능 파라미터, 사양 및 속도에 초점을 맞추었습니다.

Ollama의 GPT-OSS 모델은 특히 LangChain, OpenAI SDK, vllm과 같은 프레임워크와 함께 사용될 때 구조화된 출력을 처리하는 데 반복적으로 문제가 발생합니다.