Ollama 에서 지원하는 Qwen3 임베딩 및 리랭커 모델: 최첨단 성능
Ollama 에서 제공되는 새로운 놀라운 LLM 들
Qwen3 임베딩 및 리랭커 모델 은 Qwen 시리즈의 최신 릴리스로, 고급 텍스트 임베딩, 검색 및 재랭킹 작업을 위해 특별히 설계되었습니다.
Ollama 에서 제공되는 새로운 놀라운 LLM 들
Qwen3 임베딩 및 리랭커 모델 은 Qwen 시리즈의 최신 릴리스로, 고급 텍스트 임베딩, 검색 및 재랭킹 작업을 위해 특별히 설계되었습니다.
LLM용으로 두 번째 GPU를 설치할 생각이신가요?
PCIe 랜의 수가 LLM 성능에 미치는 영향? 작업에 따라 다릅니다. 훈련 및 멀티 GPU 추론의 경우 성능 저하가 상당합니다.
LLM을 사용하여 HTML에서 텍스트 추출...
Ollama 모델 라이브러리에는 HTML 콘텐츠를 Markdown으로 변환할 수 있는 모델이 포함되어 있습니다. 이는 콘텐츠 변환 작업에 유용합니다. 이 가이드는 우리의 2026년 문서화 도구: Markdown, LaTeX, PDF 및 인쇄 워크플로우 허브의 일부입니다.
어떤 AI 연구 모드가 귀하의 작업에 적합한가요?
Cursor AI vs GitHub Copilot vs Cline AI vs...
여기에는 AI 보조 코딩 도구 및 AI 코딩 어시스턴트와 그 장점들을 나열하겠습니다.
LLM 제공업체 짧은 목록
LLM을 사용하는 것은 매우 비용이 많이 들지 않으며, 새로운 고성능 GPU를 구매할 필요가 있을 수도 있습니다.
클라우드에서 제공하는 LLM 제공업체 목록을 확인해보세요. 이 목록에는 제공업체가 호스팅하는 LLM이 나와 있습니다.
인텔 CPU의 효율성 코어 vs 성능 코어에서의 Ollama
제가 테스트하고 싶은 이론은, 인텔 CPU에서 모든 코어를 사용하면 LLM의 속도가 빨라질까?입니다.
새로운 gemma3 27비트 모델(gemma3:27b, ollama에서 17GB)이 제 GPU의 16GB VRAM에 맞지 않아, 부분적으로 CPU에서 실행되고 있다는 점이 제게 짜증을 주고 있습니다.
AI는 많은 전력을 필요로 합니다...
현대 세계의 혼란 속에서 저는 AI 작업(딥러닝, 객체 탐지 및 LLM)에 적합한 다양한 그래픽 카드의 사양을 비교하고 있습니다. 하지만 이 카드들은 모두 가격이 매우 비쌉니다.
Ollama의 동시성, 큐잉, 그리고 안정적인 병렬 요청을 위한 OLLAMA_NUM_PARALLEL 튜닝 방법을 이해합니다.
이 가이드는 Ollama가 병렬 요청을 처리하는 방식(동시성, 대기열, 리소스 한계)과 OLLAMA_NUM_PARALLEL 환경 변수(및 관련 설정)를 사용하여 이를 조정하는 방법을 설명합니다.
타이핑이 아닌 설명으로 이루어지는 AI 지원 코딩
Vibe coding 은 개발자가 자연어로 원하는 기능을 설명하면 AI 도구가 코드를 자동으로 생성하는 AI 기반 프로그래밍 접근 방식입니다. 직접 코드를 작성하는 양은 최소화합니다.
두 개의 deepseek-r1 모델을 두 개의 기본 모델과 비교합니다.
DeepSeek’s 첫 세대 추론 모델로, OpenAI-o1과 유사한 성능을 보입니다. 이 모델은 Llama와 Qwen을 기반으로 한 DeepSeek-R1에서 추출한 6개의 밀집 모델입니다.
업데이트된 Ollama 명령어 목록 - ls, ps, run, serve 등
이 Ollama CLI 치트시트는 매일 사용하는 명령어(ollama ls, ollama serve, ollama run, ollama ps, 모델 관리, 일반적인 워크플로우)에 초점을 맞추고 있으며, 복사/붙여넣기가 가능한 예제를 제공합니다.
LLM 테스트 다음 라운드
지난 시간에 새로운 버전이 출시되었습니다. 지금까지의 내용을 확인하고, 기타 LLM과 비교하여 Mistral Small의 성능을 테스트해보세요.
RAG의 재순위화를 위한 Python 코드
놀랍도록 새로운 AI 모델로 텍스트에서 이미지 생성
최근 Black Forest Labs는 텍스트에서 이미지로 생성하는 AI 모델을 출시했습니다. 이 모델들은 매우 높은 출력 품질을 자랑한다고 알려져 있습니다. 시작해 보세요
두 개의 자체 호스팅 AI 검색 엔진 비교
아름다운 음식은 눈으로도 즐길 수 있는 즐거움입니다. 하지만 이번 포스팅에서는 두 가지 AI 기반 검색 시스템인 Farfalle 와 Perplexica 를 비교해 보겠습니다.