LLM-Frontends
Nicht so viele zur Auswahl, aber trotzdem....
Als ich anfing, mit LLMs zu experimentieren, waren die Benutzeroberflächen für diese noch in aktiver Entwicklung und heute sind einige davon wirklich gut.
LLM
Die Erstellung effektiver Prompts für LLMs
Erfordert etwas Experimentieren, aber
Es gibt dennoch einige gängige Ansätze, um gute Prompts zu formulieren, damit LLMs nicht durcheinanderkommen, wenn sie versuchen zu verstehen, was man von ihnen möchte.
Vergleich der Zusammenfassungsfähigkeiten von LLMs
8 llama3 (Meta+) und 5 phi3 (Microsoft) LLM-Versionen
Testen, wie Modelle mit unterschiedlicher Anzahl an Parametern und Quantisierung sich verhalten.
Ollama-Modelle an einen anderen Speicherort verschieben
Die LLM-Modelldateien von Ollama nehmen viel Speicherplatz in Anspruch.
Nach der Installation von Ollama ist es besser, Ollama sofort so neu zu konfigurieren, dass die Modelle im neuen Speicherort abgelegt werden. So werden neue Modelle nach dem Herunterladen nicht mehr im alten Speicherort gespeichert.
Großer Sprachmodell-Geschwindigkeitstest
Testen wir die Geschwindigkeit der LLMs auf GPU im Vergleich zu CPU
Vergleich der Vorhersagegeschwindigkeit verschiedener Versionen von LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (Open Source) auf CPU und GPU.
Logische Fehlschlusserkennung mit LLMs
Lassen Sie uns die Qualität der logischen Trugschlusserkennung verschiedener LLMs testen
Vergleich mehrerer Versionen von LLMs: llama3 (Meta), phi3 (Microsoft), gemma (Google), mistral (Open Source) und qwen (Alibaba).