LLM Hosting

Ollama を使用した Perplexica のセルフホスティング

Ollama を使用した Perplexica のセルフホスティング

ローカルで Copilot 風サービスを実行?簡単です!

それはとても素晴らしいことです! Copilot や Perplexity.ai を呼び出して、世界中に何を求めているかを知られる代わりに、 今ではご自身の PC やラップトップで同様のサービスをホストできるようになりました!

LLMフロントエンド

LLMフロントエンド

選択肢は多くないが、それでもなお....

LLMの実験を始めた当初は、それらのUIが活発な開発段階にありました。現在では、いくつかのUIが非常に良いものになっています。

Ollamaモデルの保存場所を変更する

Ollamaモデルの保存場所を変更する

OllamaのLLMモデルファイルは大量のストレージ容量を必要とする

ollama をインストールする 後すぐに、ollama の設定を変更してモデルを新しい場所に保存するように再設定するのが望ましいです。これにより、新しいモデルをプルした際に、古い場所にダウンロードされるのを防ぐことができます。