Hardware

Il mercato della memoria sta vivendo una volatilità dei prezzi senza precedenti alla fine del 2025, con i prezzi della RAM in forte aumento che si stanno verificando drammaticamente in tutti i segmenti.

Confrontiamo i prezzi per le GPU consumer di fascia alta, in particolare quelle adatte per le LLM e per l’IA in generale. Nello specifico, sto esaminando i prezzi di RTX-5080 e RTX-5090.

La democratizzazione dell’IA è qui. Con LLM open-source come Llama, Mistral e Qwen che ora competono con i modelli proprietari, i team possono costruire potenti infrastrutture AI utilizzando hardware consumer - riducendo drasticamente i costi mantenendo il controllo totale sulla privacy dei dati e sul deployment.

Docker Model Runner è lo strumento ufficiale di Docker per eseguire modelli AI in locale, ma abilitare l’accelerazione GPU di NVidia in Docker Model Runner richiede una configurazione specifica.

Ho trovato alcuni interessanti test sulle prestazioni di GPT-OSS 120b in esecuzione su Ollama su tre diversi piattaforme: NVIDIA DGX Spark, Mac Studio, e RTX 4080. Il modello GPT-OSS 120b dalla libreria Ollama pesa 65 GB, il che significa che non si adatta alla VRAM da 16 GB di un RTX 4080 (o al più recente RTX 5080).

Docker Model Runner (DMR) è la soluzione ufficiale di Docker per eseguire modelli AI localmente, introdotta nel aprile 2025. Questo foglio di riferimento fornisce un rapido riferimento per tutti i comandi essenziali, le configurazioni e le best practice.

Nel panorama attuale dell’informatica, la virtualizzazione è diventata essenziale per lo sviluppo, i test e l’esecuzione di diversi sistemi operativi. Per gli utenti Linux che cercano un modo semplice e intuitivo per gestire le macchine virtuali, GNOME Boxes si distingue come un’opzione leggera e user-friendly che privilegia l’usabilità senza sacrificare le funzionalità.

Il futuro dell’AI non riguarda solo modelli più intelligenti. Riguarda anche il silicio che corrisponde al modo in cui questi modelli vengono effettivamente serviti. L’hardware specializzato per l’inferenza LLM sta seguendo un percorso simile al passaggio del mining di Bitcoin dalle GPU agli ASIC appositamente progettati, sebbene con vincoli più stringenti poiché i modelli e le ricette di precisione continuano a evolversi.

NVIDIA DGX Spark è reale, in vendita dal 15 ottobre 2025, e pensato per gli sviluppatori CUDA che hanno bisogno di un lavoro locale con LLM dotato di uno stack NVIDIA AI integrato. Il prezzo suggerito al pubblico negli Stati Uniti è di 3.999 $; il prezzo al dettaglio nel Regno Unito/Tedesca/Giappone è più alto a causa dell’IVA e dei canali di distribuzione. I prezzi al dettaglio pubblici in AUD/KRW non sono ancora ampiamente pubblicati.

Confrontiamo i prezzi delle GPU consumer di fascia alta, adatte in particolare per gli LLM e per l’IA in generale. Nello specifico, sto esaminando i prezzi di RTX-5080 e RTX-5090. Hanno subito una lieve diminuzione.

Applicazioni per il monitoraggio del carico della GPU:
nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Nvidia sta per lanciare NVIDIA DGX Spark - un piccolo supercomputer AI basato sull’architettura Blackwell, con oltre 128 GB di memoria unificata e prestazioni AI da 1 PFLOPS. Un ottimo dispositivo per eseguire LLM.

Confrontiamo i prezzi delle migliori GPU consumer, particolarmente adatte per i LLM e l’AI in generale. In particolare, date un’occhiata ai prezzi di RTX 5080 e RTX 5090. Hanno subito un leggero calo.

Solo tre mesi fa non vedevamo RTX 5090 nei negozi, e ora sono qui, ma i prezzi sono leggermente superiori al prezzo consigliato (MRSP). Confrontiamo i prezzi più bassi per RTX 5080 e RTX 5090 in Australia e vediamo come vanno le cose.

Per confronto, vedi anche Prezzi RTX 5080 e RTX 5090 in Australia - Luglio 2025, Ottobre 2025 e Novembre 2025.

Sistema automatizzato top per un lavoro straordinario.

Come le lane PCIe influenzano le prestazioni dei LLM? Dipende dal compito. Per l’addestramento e l’inferenza multi-GPU - la riduzione delle prestazioni è significativa.