Self-Hosting

Hier ist die Liste und Beispiele der nützlichsten Ollama-Befehle (Ollama-Befehlsübersicht), die ich vor einiger Zeit zusammengestellt habe. Hoffentlich wird sie auch für Sie nützlich sein.

Vor nicht allzu langer Zeit wurde veröffentlicht. Lassen Sie uns aufschließen und
testen, wie Mistral Small sich im Vergleich zu anderen LLMs schlägt.

Integrationssysteme können kommerziell sein mit vielen bezahlten Verbindungsmodulen und einigen kostenlosen; Oder so etwas wie kostenlos, aber mit einer seltsamen Lizenz; Oder bereit für die Selbsthosting und nicht.

YaCy ist eine dezentrale, Peer-to-Peer-(P2P)-Suchmaschine, die es Einzelpersonen und Organisationen ermöglicht, eigene Suchportale zu betreiben oder sich einem globalen Netzwerk von Suchpartnern anzuschließen.

Howto: Kubernetes mit Kubespray installieren, einschließlich der Umgebungseinstellungen, der Konfiguration der Inventardatei und der Ausführung der Ansible-Playbooks.

Hier ist mein k8s Cheatsheet,
der die wichtigsten Kubernetes-Befehle und Konzepte von der Installation bis zum Laufen von Containern und zur Bereinigung abdeckt:

Hier ist ein Docker Cheat Sheet, der die wichtigsten Befehle und Konzepte von der Installation bis zum Laufen von Containern und Bereinigen abdeckt:

Kürzlich hat Black Forest Labs eine Reihe von
text-to-image AI-Modellen veröffentlicht.
Diese Modelle sollen eine deutlich höhere Ausgabegüte haben.
Lasst uns sie ausprobieren

Hervorragende Nahrung ist auch ein Vergnügen für die Augen. Aber in diesem Beitrag vergleichen wir zwei AI-basierte Suchsysteme, Farfalle und Perplexica.

Das ist sehr aufregend! Statt Copilot oder perplexity.ai zu rufen und der ganzen Welt zu erzählen, wonach Sie suchen, können Sie nun einen ähnlichen Dienst auf Ihrem eigenen PC oder Laptop hosten!

Kürzlich haben wir mehrere neue LLMs gesehen, die veröffentlicht wurden. Aufregende Zeiten. Lassen Sie uns testen und sehen, wie sie sich bei der Erkennung logischer Fehlschlüsse schlagen.

Als ich begann, mit LLMs zu experimentieren, waren die Benutzeroberflächen für sie noch in aktiver Entwicklung, und heute sind einige von ihnen wirklich gut.

Ich habe verschiedene Tools ausprobiert und bin zu dem Schluss gekommen, dass mir floccus am besten gefällt.

Als ich vor einiger Zeit object detection AI trainierte war LabelImg eine sehr nützliche Werkzeug, aber die Exportfunktion von Label Studio in das COCO-Format wurde vom MMDetection-Framework nicht akzeptiert…

Testing, wie Modelle mit unterschiedlicher Anzahl an Parametern und Quantisierung sich verhalten.

Nachdem Sie Ollama installiert haben, ist es besser, Ollama direkt so zu konfigurieren, dass die Modelle an einem neuen Ort gespeichert werden. So werden neue Modelle nicht mehr in den alten Speicherort heruntergeladen.