Self-Hosting

Docker Model Runner è lo strumento ufficiale di Docker per eseguire modelli AI in locale, ma abilitare l’accelerazione GPU di NVidia in Docker Model Runner richiede una configurazione specifica.

Scegliere il giusto headless CMS può fare la differenza nel tuo piano di gestione del contenuto. Confrontiamo tre soluzioni open source che influenzano il modo in cui gli sviluppatori costruiscono applicazioni guidate dal contenuto.

Nextcloud è la piattaforma di archiviazione e collaborazione cloud open source e autoospitata leader che mette completamente sotto il tuo controllo i tuoi dati.

Immich è una soluzione rivoluzionaria, open-source e autoospitata per la gestione di foto e video che ti dà il pieno controllo sui tuoi ricordi. Con funzionalità paragonabili a quelle di Google Photos, tra cui il riconoscimento facciale alimentato dall’intelligenza artificiale, la ricerca intelligente e il backup automatico dal telefono, tutto mantenendo i tuoi dati privati e sicuri sul tuo server.

Elasticsearch è un potente motore di ricerca e analisi distribuito basato su Apache Lucene. Questa guida completa copre comandi essenziali, best practice e riferimenti rapidi per lavorare con i cluster Elasticsearch.

Ho trovato alcuni interessanti test sulle prestazioni di GPT-OSS 120b in esecuzione su Ollama su tre diversi piattaforme: NVIDIA DGX Spark, Mac Studio, e RTX 4080. Il modello GPT-OSS 120b dalla libreria Ollama pesa 65 GB, il che significa che non si adatta alla VRAM da 16 GB di un RTX 4080 (o al più recente RTX 5080).

Docker Model Runner (DMR) è la soluzione ufficiale di Docker per eseguire modelli AI localmente, introdotta nel aprile 2025. Questo foglio di riferimento fornisce un rapido riferimento per tutti i comandi essenziali, le configurazioni e le best practice.

Running large language models (LLMs) locally ha guadagnato popolarità per la privacy, il controllo dei costi e le capacità offline. Il panorama si è notevolmente modificato nel aprile 2025 quando Docker ha introdotto Docker Model Runner (DMR), la sua soluzione ufficiale per il deployment di modelli AI.

Nel panorama attuale dell’informatica, la virtualizzazione è diventata essenziale per lo sviluppo, i test e l’esecuzione di diversi sistemi operativi. Per gli utenti Linux che cercano un modo semplice e intuitivo per gestire le macchine virtuali, GNOME Boxes si distingue come un’opzione leggera e user-friendly che privilegia l’usabilità senza sacrificare le funzionalità.

Multipass è un gestore leggero di macchine virtuali che rende semplice la creazione e la gestione di istanze cloud Ubuntu su Linux, Windows e macOS.

Mentre Google domina il mercato dei motori di ricerca con una quota di mercato globale superiore al 90%, sta crescendo un ecosistema di motori di ricerca alternativi che offrono approcci diversi alla ricerca sul web.

Il futuro dell’AI non riguarda solo modelli più intelligenti. Riguarda anche il silicio che corrisponde al modo in cui questi modelli vengono effettivamente eseguiti. L’hardware specializzato per l’inference degli LLM sta seguendo una strada che ricorda il passaggio del mining di Bitcoin dalle GPU agli ASIC costruiti appositamente, sebbene con vincoli più stringenti perché modelli e schemi di precisione continuano a evolversi.

Il web era originariamente progettato come una rete decentralizzata in cui chiunque potesse pubblicare e connettersi. Con il tempo, le piattaforme corporative hanno consolidato il controllo, creando giardini recintati in cui gli utenti sono prodotti e il contenuto è bloccato. Il movimento Indie Web mira a ripristinare la promessa originale del web: proprietà personale, libertà creativa e connessione autentica.

NVIDIA DGX Spark è reale, in vendita dal 15 ottobre 2025, ed è rivolto agli sviluppatori CUDA che necessitano di lavori locali con LLM con uno stack NVIDIA AI integrato. Prezzo di listino USA $3.999; il prezzo al dettaglio nel Regno Unito/DE/JP è più alto a causa dell’IVA e dei canali di distribuzione. I prezzi pubblici AUD/KRW non sono ancora ampiamente pubblicati.

Il protocollo Gemini rappresenta un ritorno ai fondamenti della comunicazione su Internet: un’alternativa leggera, sicura e rispettosa della privacy rispetto alla moderna web sempre più complessa.

Questo documento fornisce un’overview completa degli SDK Go per Ollama disponibili e confronta i loro set di funzionalità.