AI

Strategic guide to hosting large language models locally with Ollama, llama.cpp, vLLM, or in the cloud. Compare tools, performance trade-offs, and cost considerations.

A performance engineering hub for running LLMs efficiently: runtime behavior, bottlenecks, benchmarks, and the real constraints that shape throughput and latency.

L’hosting self-hosted di LLM mantiene i dati, i modelli e l’inferenza sotto il tuo controllo: un percorso pratico verso sovrainità AI per team, aziende e nazioni.

Eseguire grandi modelli linguistici in locale ti offre privacy, capacità offline e zero costi API. Questo benchmark rivela esattamente cosa si può aspettare da 14 modelli popolari LLMs su Ollama su un RTX 4080.

L’ecosistema Python di questo mese è dominato da Claude Skills e dagli strumenti per agenti AI. Questa panoramica analizza i repository Python più in tendenza su GitHub.

L’ecosistema Rust sta esploso con progetti innovativi, in particolare negli strumenti per la codifica AI e nelle applicazioni per terminale. Questo riepilogo analizza i repository Rust più popolari su GitHub di questo mese.

L’ecosistema Go continua a prosperare grazie a progetti innovativi che spaziano dall’AI, alle applicazioni auto-hosted e all’infrastruttura per sviluppatori. Questa panoramica analizza i repository Go più popolari su GitHub di questo mese.

Questo completo guida fornisce un background e un dettagliato confronto tra Anaconda, Miniconda e Mamba - tre potenti strumenti che sono diventati essenziali per gli sviluppatori Python e i data scientist che lavorano con dipendenze complesse e ambienti di calcolo scientifico.

Open WebUI è una potente, estensibile e ricca di funzionalità interfaccia web autoospitata per interagire con i grandi modelli linguistici.

La comunità tecnologica di Melbourne continua a prosperare nel 2026 con un’impressionante serie di conferenze, incontri e workshop che coprono sviluppo software, calcolo cloud, AI, cybersecurity e tecnologie emergenti.

vLLM è un motore di inferenza e servizio ad alto throughput e a basso consumo di memoria per modelli linguistici su larga scala (LLM), sviluppato dal laboratorio Sky Computing dell’Università della California, Berkeley.

L' NVIDIA DGX Spark (GB10 Grace Blackwell) è ora disponibile in Australia nei principali rivenditori di PC con scorte locali. Se segui le prezzi e disponibilità globali del DGX Spark, sarà interessante sapere che i prezzi in Australia variano da 6.249 a 7.999 AUD a seconda della configurazione di archiviazione e del rivenditore.

La proliferazione del contenuto generato dall’IA ha creato una nuova sfida: distinguere la scrittura umana autentica da “AI slop” - testo sintetico di bassa qualità, prodotto in massa.

Cognee è un framework Python per costruire grafi di conoscenza da documenti utilizzando LLM. Ma funziona con modelli auto-hostati?

Quando si lavora con i Large Language Models in produzione, ottenere output strutturati e sicuri dal punto di vista dei tipi è fondamentale. Due framework popolari - BAML e Instructor - adottano approcci diversi per risolvere questo problema.

Scegliere il miglior LLM per Cognee richiede di bilanciare la qualità della costruzione del grafo, i tassi di allucinazione e i vincoli hardware. Cognee eccelle con modelli più grandi a bassa allucinazione (32B+) tramite Ollama ma le opzioni di dimensioni medio-piccole funzionano per le configurazioni più leggere.