Llm

Model-side analysis for people choosing what to run: architecture surveys, family reference pages with benchmark ladders, and quantization tradeoffs.

Alibaba ha confermato ad Apsara che Qwen 4 è in fase di addestramento, senza data indicata, mentre i segnali temporali della community indicano un lancio tra poche settimane anziché mesi.

Un agente con un unico file di memoria piatto non dimentica le cose; non riesce a smettere di ricordare informazioni su cui non gli è stato chiesto di soffermarsi. La soluzione è un contesto a livelli in cui ogni strato di conoscenza entra attraverso un trigger diverso.

La pagina mensile dei trending di GitHub funziona per un linguaggio, perché un filtro linguistico definisce già l’insieme. L’IA open source pone una domanda diversa: il lavoro si estende su cinque linguaggi e il taglio utile è il ruolo che un repository svolge.

Un agente AI self-hosted ha bisogno di più di una finestra di contesto lunga. Ha bisogno di un modo per ritenere fatti utili, recuperare decisioni precedenti e rivedere ciò che crede di sapere man mano che i progetti evolvono.

Gli agenti di coding AI possono già scrivere funzioni, modificare repository, eseguire test e aprire pull request. Il problema più difficile è convincere un agente a seguire un processo di ingegneria ripetibile prima, durante e dopo la scrittura del codice.

Deep Research è diventato una categoria software a sé stante, e non è più soltanto un modello indirizzato verso una casella di ricerca. Questo articolo confronta dodici sistemi self-hosted e le architetture di ricerca che li sottendono.

Nel settembre 2026, il fronte efficiente dei modelli open source si colloca tra i 25 e i 34 miliardi di parametri: lavoro agenziale quasi al livello di frontiera su una singola GPU da 24 GB, a una frazione dell’hardware di classe 70B.

La memoria persistente trasforma un agente da uno strumento che va continuamente spiegato a uno che porta avanti il contesto — ma apre un modello di guasto che la chat stateless evita: un’interpretazione può diventare memoria, essere recuperata come fatto e giustificare una versione più forte di sé stessa.

Mnemosyne è un provider di memoria local-first per Hermes Agent, che archivia memoria operativa, fatti strutturati, dati temporali e storico episodico in SQLite locale — nessun servizio gestito, nessuna chiamata di rete obbligatoria e un controllo delle scritture insolitamente granulare.

Un agente che ha proposto e implementato “spostare la persistenza in una libreria condivisa” sei mesi fa proporrà volentieri di nuovo la stessa idea il prossimo trimestre, a meno che non esista un registro durevole che gli indichi come l’idea sia già stata indagata e rifiutata – e OpenSpec al momento non ha uno stato interno per questo scopo.

OpenSpec è una CLI gratuita e open source di Fission AI che consente a te e al tuo agente di coding di concordare una modifica in Markdown semplice prima che venga scritto qualsiasi codice, evitando la cerimoniale fase-gated dei framework spec-driven più pesanti.

Migrare un assistente AI non è la stessa cosa di copiare la configurazione di un’applicazione. La parte difficile è preservare l’identità, la memoria, il comportamento degli strumenti, i lavori programmati e l’accesso alla messaggistica senza che due gateway agiscano come lo stesso bot.

Ollama e llama.cpp vengono spesso confrontati come se fossero motori di inferenza rivali. La scelta reale è tra un servizio di modelli gestito e un toolkit che si opera direttamente.

ROCm e Vulkan accelerano entrambe le GPU AMD per l’hosting locale di LLM, ma non sono intercambiabili. La scelta giusta dipende dal motore, dalla GPU e dal carico di lavoro.

Un modello può pubblicizzare una finestra di contesto da 128K eppure fallire a 40K token su una GPU da 16 GB. Il limite architetturale non ha mai promesso che pesi, KV cache, buffer di calcolo e il compositor desktop potessero coesistere sulla stessa scheda.