Llm

Fragt Praktiker, was in Agentensystemen kaputtgeht, und die Antwort ist selten die Leistungsfähigkeit. Das Versagen ist stiller: Das Modell trifft eine Entscheidung, und niemand kann verlässliches von bloß flüssigem unterscheiden.

Model-side analysis for people choosing what to run: architecture surveys, family reference pages with benchmark ladders, and quantization tradeoffs.

Alibaba hat auf der Apsara bestätigt, dass Qwen 4 in der Trainingsphase ist, ohne einen Termin anzugeben, während Timing-Signale aus der Community auf einen Launch in Wochen und nicht in Monaten hindeuten.

Ein Agent mit einer einzelnen, flachen Memory-Datei vergisst nichts; er kann einfach nicht aufhören, Dinge in Erinnerung zu behalten, nach denen er nicht gefragt wurde. Die Lösung ist ein gestufter Kontext, bei dem jede Wissensebene durch einen anderen Trigger eingespeist wird.

Die monatliche Trending-Seite von GitHub funktioniert für eine Sprache, weil ein Sprachfilter bereits den suchbaren Bereich definiert. Open-Source-KI stellt eine andere Frage: Die Projekte erstrecken sich über fünf Programmiersprachen, und der aussagekräftigste Schnittpunkt ist die Aufgabe, die ein Repository erfüllt.

Ein selbst gehosteter KI-Agent benötigt mehr als ein langes Kontextfenster. Er braucht eine Möglichkeit, nützliche Fakten beizubehalten, frühere Entscheidungen abzurufen und seine Kenntnis davon, was er weiß, zu revidieren, während sich Projekte weiterentwickeln.

KI-Coding-Agenten können bereits Funktionen schreiben, Repositorien modifizieren, Tests ausführen und Pull Requests öffnen. Das schwierigere Problem ist es, einen Agenten dazu zu bringen, einen wiederholbaren Engineering-Prozess vor, während und nach dem Schreiben des Codes zu befolgen.

Deep Research ist inzwischen eine eigene Softwarekategorie geworden, nicht mehr nur ein Modell, das auf ein Suchfeld angewiesen ist. Dieser Artikel vergleicht zwölf selbst gehostete Systeme und die dahinterliegenden Forschungsarchitekturen.

Im September 2026 liegt die effiziente Frontier der offenen Modelle zwischen 25 Milliarden und 34 Milliarden Parametern: nahezu Frontier-nahes Agenten-Work auf einer einzigen 24-GB-GPU, mit einem Bruchteil der Hardware von 70B-Klasse.

Mnemosyne ist ein lokal-firster Memory-Anbieter für Hermes Agent. Er speichert Arbeitsspeicher, strukturierte Fakten, temporale Daten und episodische Historie in lokalen SQLite-Datenbanken — ohne gehosteten Service, ohne obligatorische Netzwerkaufrufe und mit ungewöhnlich granularer Schreibsteuerung.

Persistente Speichersysteme verwandeln einen Agenten von einem Werkzeug, das stets neu erklärt werden muss, in ein System, das Kontext weiterträgt – doch sie eröffnen einen Fehlerzustand, dem stateless-Chats ausweichen: Eine Interpretation kann sich als Gedächtnis einprägen, als Tatsache abgerufen werden und eine stärkere Version ihrer selbst rechtfertigen.

Ein Agent, der vor sechs Monaten „Persistenz in eine Shared Library verlagern“ vorgeschlagen und umgesetzt hat, wird dieses Vorschlag im nächsten Quartal wieder gern machen, es sei denn, etwas Dauerhaftes teilt ihm mit, dass diese Idee bereits untersucht und abgelehnt wurde – und OpenSpec verfügt heute über keinen eingebauten Zustand dafür.

OpenSpec ist eine kostenlose, Open-Source-CLI von Fission AI, die sicherstellt, dass Sie und Ihr Coding-Agent sich vor dem Schreiben von Code über eine Änderung in klarem Markdown einigen, ohne die phasenbasierte Formalität schwerer, spezifikationsgetriebener Frameworks.

Die Migration eines KI-Assistenten unterscheidet sich grundlegend vom einfachen Kopieren einer Anwendungs-Konfiguration. Die eigentliche Herausforderung besteht darin, Identität, Gedächtnis, Tool-Verhalten, geplante Aufgaben und den Messaging-Zugriff so zu erhalten, dass nicht zwei Gateways als derselbe Bot agieren.

Ollama und llama.cpp werden oft so verglichen, als wären sie konkurrierende Inferenz-Engines. Die eigentliche Wahl besteht zwischen einem verwalteten Modell-Service und einem Toolkit, das Sie direkt betreiben.

Sowohl ROCm als auch Vulkan beschleunigen AMD-GPUs für den lokalen Betrieb von LLMs, aber sie sind nicht austauschbar. Die richtige Wahl hängt von der Engine, der GPU und der Arbeitslast ab.