Self-Hosting

Docker Model Runner ist das offizielle Tool von Docker, um KI-Modelle lokal zu verwenden, aber GPU-Beschleunigung mit NVidia in Docker Model Runner erfordert eine spezifische Konfiguration.

Die Wahl der richtigen headless CMS kann über den Erfolg Ihrer Content-Management-Strategie entscheiden. Lassen Sie uns drei Open-Source-Lösungen vergleichen, die den Aufbau von contentgetriebenen Anwendungen beeinflussen.

Nextcloud ist die führende Open-Source-, Self-Hosting-Cloud-Speicher- und Kollaborationsplattform, die Sie vollständig in den Besitz Ihrer Daten bringt.

Immich ist eine revolutionäre Open-Source-Lösung für die selbstgehostete Verwaltung von Fotos und Videos, die Ihnen die vollständige Kontrolle über Ihre Erinnerungen gibt. Mit Funktionen, die denen von Google Photos in nichts nachstehen – einschließlich KI-gestützter Gesichtserkennung, intelligenter Suche und automatischer Mobilgeräte-Sicherung – und dabei Ihre Daten privat und sicher auf Ihrem eigenen Server halten.

Elasticsearch ist ein leistungsstarker, verteilter Such- und Analyse-Engine, der auf Apache Lucene aufgebaut ist. Dieses umfassende CheatSheet deckt essentielle Befehle, bewährte Praktiken und Schnellreferenzen für die Arbeit mit Elasticsearch-Clustern ab.

Ich habe einige interessante Leistungsbenchmarks von GPT-OSS 120b gefunden, die auf Ollama unter drei verschiedenen Plattformen durchgeführt wurden: NVIDIA DGX Spark, Mac Studio und RTX 4080. Der GPT-OSS 120b-Modell aus der Ollama-Bibliothek wiegt 65 GB, was bedeutet, dass er nicht in die 16 GB VRAM des RTX 4080 (oder der neueren RTX 5080) passt.

Docker Model Runner (DMR) ist Docks offizielle Lösung zur lokalen Ausführung von KI-Modellen, eingeführt im April 2025. Dieses Cheat Sheet bietet eine schnelle Referenz für alle wesentlichen Befehle, Konfigurationen und Best Practices.

Große Sprachmodelle (LLMs) lokal ausführen wird zunehmend beliebt, um den Schutz der Privatsphäre, den Kostenkontroll und die Offline-Fähigkeiten zu gewährleisten. Der Markt hat sich im April 2025 deutlich verändert, als Docker Docker Model Runner (DMR) eingeführt hat, seine offizielle Lösung zur Bereitstellung von KI-Modellen.

In der heutigen Rechenlandschaft ist Virtualisierung für Entwicklung, Tests und den Betrieb mehrerer Betriebssysteme unverzichtbar. Für Linux-Nutzer, die eine einfache und intuitive Möglichkeit suchen, virtuelle Maschinen zu verwalten, sticht GNOME Boxes als leichtgewichtige und benutzerfreundliche Option hervor, die Benutzerfreundlichkeit ohne Funktionalität zu opfern.

Multipass ist ein leichtgewichtiger virtueller Maschinen-Manager, der es einfach macht, Ubuntu-Cloud-Instanzen auf Linux, Windows und macOS zu erstellen und zu verwalten.

Während Google den Suchmaschinenmarkt mit über 90 % globalem Marktanteil dominiert, gibt es ein wachsendes Ökosystem von alternativen Suchmaschinen, die unterschiedliche Ansätze zur Websuche bieten.

Die Zukunft von KI besteht nicht nur in intelligenteren Modellen. Es geht auch um Silizium, das auf die Art und Weise zugeschnitten ist, wie diese Modelle tatsächlich bereitgestellt werden. Spezialisierte Hardware für die LLM-Inferenz folgt einem Pfad, der an den Wechsel von GPUs zu eigens gebauten ASICs beim Bitcoin-Mining erinnert, jedoch mit schwierigeren Randbedingungen, da sich Modelle und Präzisionsrezepte ständig weiterentwickeln.

Das Web wurde ursprünglich als ein dezentralisiertes Netzwerk entworfen, in dem jeder veröffentlichen und verbinden konnte. Mit der Zeit konsolidierten Korporationen die Kontrolle und schufen geschlossene Gärten, in denen Nutzer Produkte sind und Inhalte eingesperrt werden. Die Indie-Web-Bewegung strebt danach, das ursprüngliche Versprechen des Webs wiederherzustellen: persönlicher Besitz, kreative Freiheit und echte Verbindung.

NVIDIA DGX Spark ist Realität, ab dem 15. Oktober 2025 verfügbar und richtet sich an CUDA-Entwickler, die lokale LLM-Arbeitslasten mit einem integrierten NVIDIA AI-Stack benötigen. Der US-Empfehlungspreis liegt bei 3.999 USD; der Einzelhandelspreis in UK/DE/JP ist aufgrund der MwSt. und des Vertriebswegs höher. Öffentliche Aufkleberpreise für AUD/KRW sind noch nicht weit verbreitet.

Das Gemini-Protokoll stellt eine Rückkehr zu den Grundlagen der Internetkommunikation dar - eine leichtgewichtige, sichere und datenschutzfreundliche Alternative zu dem zunehmend komplexen modernen Web.

Dieser Leitfaden bietet einen umfassenden Überblick über die verfügbaren Go SDKs für Ollama und vergleicht ihre Funktionsumfänge.