Self-Hosting

이 Ollama CLI 치트시트는 매일 사용하는 명령어(ollama ls, ollama serve, ollama run, ollama ps, 모델 관리, 일반적인 워크플로우)에 초점을 맞추고 있으며, 복사/붙여넣기가 가능한 예제를 제공합니다.

지난 시간에 새로운 버전이 출시되었습니다. 지금까지의 내용을 확인하고, 기타 LLM과 비교하여 Mistral Small의 성능을 테스트해보세요.

통합 시스템](https://www.glukhov.org/ko/app-architecture/integration-patterns/selfhosted-integration/ “통합 시스템 비교”)은 많은 유료 연결 모듈과 일부 무료 모듈을 갖춘 상업용 시스템일 수 있습니다.
또는 약간의 특이한 라이선스를 가진 종류의 무료 시스템일 수 있고,
또는 자체 호스팅 가능이며, 아니면 아닐 수도 있습니다.

YaCy는 개인과 조직이 자체 검색 포털을 운영하거나 전 세계의 검색 피어 네트워크에 참여할 수 있는 분산형, 피어 투 피어(P2P) 검색 엔진입니다.

Howto: Kubespray를 사용하여 Kubernetes 설치, 환경 설정, 인벤토리 구성, Ansible 플레이북 실행을 포함합니다.

이것은 제 k8s cheat sheet입니다.
이 문서는 컨테이너를 설치하고 실행하는 것에서부터 정리까지, Kubernetes의 가장 중요한 명령어와 개념을 다룹니다.

최근 Black Forest Labs는 텍스트에서 이미지로 생성하는 AI 모델을 출시했습니다. 이 모델들은 매우 높은 출력 품질을 자랑한다고 알려져 있습니다. 시작해 보세요

아름다운 음식은 눈으로도 즐길 수 있는 즐거움입니다. 하지만 이번 포스팅에서는 두 가지 AI 기반 검색 시스템인 Farfalle 와 Perplexica 를 비교해 보겠습니다.

정말 흥미진진합니다!

코파일럿 (Copilot) 이나 perplexity.ai 에 접속하여 전 세계에 당신의 의도를 알릴 필요 없이, 이제 자신의 PC 나 노트북에서 유사한 서비스를 직접 호스팅할 수 있습니다!

최근 몇몇 새로운 LLM이 출시되었습니다. 흥미로운 시기입니다. 논리적 오류를 감지하는 데 이 모델들이 어떻게 수행되는지 테스트해 보겠습니다.

다양한 도구를 사용해보았고, 그 중에서도 floccus를 가장 좋아하게 되었습니다.

언제 제가 object detector AI 훈련 했을 때, LabelImg는 매우 유용한 도구였지만, Label Studio에서 COCO 형식으로 내보내는 것이 MMDetection 프레임워크에 의해 수용되지 않았습니다.

다양한 파라미터 수와 양자화된 모델들이 어떻게 작동하는지 테스트해보았습니다.

ollama 설치 후 모델을 즉시 새 위치로 저장하도록 ollama 를 재구성하는 것이 좋습니다. 이렇게 하면 새로운 모델을 풀링 (pull) 할 때 이전 위치로 다운로드되지 않습니다.

구글 크롬, 파이어폭스, 사파리 등에서 브라우저 광고 차단 플러그인 또는 애드온을 설치할 수 있지만, 각 기기에서 따로 설정해야 합니다. 네트워크 전체에 걸쳐 광고를 차단하는 방법은 제일 좋아하는 해결책입니다.

여기에서 저는 여러 LLM 버전을 비교하고 있습니다: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo(Mistral AI), Qwen(Alibaba).