LLM

LLMの実験を始めた当初は、それらのUIが活発な開発段階にありました。現在では、いくつかのUIが非常に良いものになっています。

まだ、LLMがあなたの意図を理解しようとする際に混乱しないようにするための、良いプロンプトを書くためのいくつかの一般的なアプローチがあります。

パラメータ数や量子化の異なるモデルの挙動をテストしています。

ollama をインストールする 後すぐに、ollama の設定を変更してモデルを新しい場所に保存するように再設定するのが望ましいです。これにより、新しいモデルをプルした際に、古い場所にダウンロードされるのを防ぐことができます。

いくつかのLLM（大規模言語モデル）のバージョン（llama3（メタ/Facebook）、phi3（マイクロソフト）、gemma（グーグル）、mistral（オープンソース））におけるCPUおよびGPUでの予測速度の比較。

ここではいくつかのLLMバージョンを比較しています：Llama3（Meta）、Phi3（Microsoft）、Gemma（Google）、Mistral Nemo（Mistral AI）、Qwen（Alibaba）。