Self-Hosting

Ich habe eine Theorie, die ich testen möchte – wenn man alle Kerne eines Intel-Prozessors nutzt, würde das die Geschwindigkeit von LLMs erhöhen? Test: Wie Ollama die Leistung des Intel-Prozessors und der effizienten Kerne nutzt

Es nervt mich, dass das neue Gemma3-Modell mit 27 Bit (gemma3:27b, 17 GB auf Ollama) nicht in die 16 GB VRAM meines GPUs passt und teilweise auf dem CPU läuft.

MinIO bietet zwei Standard-UIs an: (1) MinIO Console – das ist eine Web-Oberfläche und (2) MinIO Command – dies ist eine Befehlszeile mit mc.

MinIO ist ein Open-Source-, leistungsstarkes, verteiltes Objekt-Speichersystem, das vollständig kompatibel mit der Amazon S3-API sein soll.

Inmitten des Chaos der modernen Welt vergleiche ich hier die technischen Spezifikationen verschiedener Grafikkarten für KI-Aufgaben (Deep Learning, Objekterkennung und LLMs). Sie sind alle jedoch unglaublich teuer.

Schauen Sie auf GitHub die Liste der besten Themes für Hugo static site generator an, und prüfen Sie ihre Sternbewertung. Sie können zur official hugo themes Liste gehen: https://themes.gohugo.io/

Dieses руководство erklärt, wie Ollama parallele Anfragen verarbeitet (Konnektivität, Warteschlangen und Ressourcenlimits) und wie man dies über die Umgebungsvariable OLLAMA_NUM_PARALLEL (und verwandte Parameter) einstellt.

Vielleicht sollte ich dies jetzt Plattform-Engineering nennen. Hier sind einige Notizen dazu, wie man Connect installiert und Portainer entfernt – eine Benutzeroberfläche zur Verwaltung von Docker-Images und -Containern.

Kurzer Vergleich von RabbitMQ auf AWS EKS und AWS SQS

• Funktionen und Kosten.

Nicht jeder zweite Freitag, aber dennoch… Wir haben zwei Hauptansätze

Hier ist ein Satz mit Anweisungen,
wie Sie Jeden Ausführbaren als Dienst in Linux konfigurieren mit Systemd durchführen können.

DeepSeek’s erste Generation von Reasoning-Modellen mit Leistungen, die vergleichbar sind mit OpenAI-o1, einschließlich sechs dichter Modelle, die aus DeepSeek-R1 basierend auf Llama und Qwen destilliert wurden.

POSSE
ist ein Konzept, das mit „Publish (on your) Own Site, Syndicate Elsewhere“ übersetzt wird und eine
Inhaltsveröffentlichungsstrategie
darstellt, die den Fokus auf die Eigentümerstellung und Kontrolle über den eigenen Online-Inhalt legt.

SearXNG ist eine kostenlose, quelloffene, föderierte Metasuchmaschine, die als Fork von Searx entstand. Das SearXNG-Projekt auf GitHub hat mehr als 15.000 Sterne.

Verwenden Sie PyInstaller, um Python-Programme als eigenständige Ausführbare Dateien zu verpacken. Es funktioniert unter Linux, Windows und Mac.

Nicht die effizienteste Methode, aber nutzbar.

Es gibt eine ganze Welt der etablierten sozialen Netzwerke Plattformen. Und es gibt eine kleine Welt von alternativen Plattformen - Fediverse. Ich zeige, wie populär das Fediverse ist.

Google zeigt in den Suchergebnissen einige Verbesserungen wie Filmdetails, Stellenanzeigen, Veranstaltungs- und Kursinformationen an, die er aus der Strukturierungsdaten der Website bezieht. Hier ist - Wie man Strukturierungsdaten mit dem Hugo-Generator zur Website hinzufügt.