Self-Hosting

Running large language models (LLMs) locally ha guadagnato popolarità per la privacy, il controllo dei costi e le capacità offline. Il panorama si è notevolmente modificato nel aprile 2025 quando Docker ha introdotto Docker Model Runner (DMR), la sua soluzione ufficiale per il deployment di modelli AI.

Nel panorama attuale dell’informatica, la virtualizzazione è diventata essenziale per lo sviluppo, i test e l’esecuzione di diversi sistemi operativi. Per gli utenti Linux che cercano un modo semplice e intuitivo per gestire le macchine virtuali, GNOME Boxes si distingue come un’opzione leggera e user-friendly che privilegia l’usabilità senza sacrificare le funzionalità.

Multipass è un gestore leggero di macchine virtuali che rende semplice la creazione e la gestione di istanze cloud Ubuntu su Linux, Windows e macOS.

Mentre Google domina il mercato dei motori di ricerca con una quota di mercato globale superiore al 90%, sta crescendo un ecosistema di motori di ricerca alternativi che offrono approcci diversi alla ricerca sul web.

Il futuro dell’AI non riguarda solo modelli più intelligenti. Riguarda anche un silicio che si adegua al modo in cui tali modelli vengono effettivamente serviti. L’hardware specializzato per l’inferenza LLM segue un percorso che richiama il passaggio del mining di Bitcoin dalle GPU agli ASIC dedicati, ma con vincoli più rigidi poiché i modelli e le tecniche di precisione continuano a evolversi.

Il web era originariamente progettato come una rete decentralizzata in cui chiunque potesse pubblicare e connettersi. Con il tempo, le piattaforme corporative hanno consolidato il controllo, creando giardini recintati in cui gli utenti sono prodotti e il contenuto è bloccato. Il movimento Indie Web mira a ripristinare la promessa originale del web: proprietà personale, libertà creativa e connessione autentica.

NVIDIA DGX Spark è reale, in vendita dal 15 ottobre 2025, ed è rivolto agli sviluppatori CUDA che necessitano di lavori locali con LLM con uno stack NVIDIA AI integrato. Prezzo di listino USA $3.999; il prezzo al dettaglio nel Regno Unito/DE/JP è più alto a causa dell’IVA e dei canali di distribuzione. I prezzi pubblici AUD/KRW non sono ancora ampiamente pubblicati.

Il protocollo Gemini rappresenta un ritorno ai fondamenti della comunicazione su Internet: un’alternativa leggera, sicura e rispettosa della privacy rispetto alla moderna web sempre più complessa.

Questo documento fornisce un’overview completa degli SDK Go per Ollama disponibili e confronta i loro set di funzionalità.

Ecco un confronto tra Qwen3:30b e GPT-OSS:20b con un focus sul rispetto delle istruzioni e sui parametri di prestazione, specifiche e velocità.

Ecco un rapido aggiornamento su Write.as / WriteFreely – come si adatta al fediverse, dove trovare hosting gestito, come si presenta l’andamento dell’utilizzo e come autoospitare (più una stima dei costi).

In questo post, esploreremo due modi per connettere la tua applicazione Python a Ollama: 1. Attraverso l’HTTP REST API; 2. Attraverso la libreria ufficiale Python di Ollama.

Proxmox Virtual Environment (Proxmox VE) è un ipervisor di tipo 1 e una piattaforma di orchestrazione del data center open source costruita su Debian.

Confrontiamo i prezzi delle GPU consumer di fascia alta, adatte in particolare per gli LLM e per l’IA in generale. Nello specifico, sto esaminando i prezzi di RTX-5080 e RTX-5090. Hanno subito una lieve diminuzione.

Ollama’s GPT-OSS models presentano frequenti problemi nel gestire l’output strutturato, specialmente quando vengono utilizzate con framework come LangChain, OpenAI SDK, vllm e altri.

I Large Language Models (LLM) sono potenti, ma in produzione raramente vogliamo paragrafi liberi. Invece, vogliamo dati prevedibili: attributi, fatti o oggetti strutturati che puoi alimentare in un’applicazione. Questo è l’Output Strutturato degli LLM.