Hardware

Self-hosting LLMs mantiene i dati, i modelli e l’inferenza sotto il tuo controllo: un percorso pratico verso la sovrania dell’AI per team, aziende e nazioni.
Ecco: cosa significa sovranità dell’AI, quali aspetti e metodi vengono utilizzati per costruirla, come l’LLM self-hosting si inserisce, e come i paesi affrontano la sfida.

Eseguire grandi modelli linguistici localmente ti offre privacy, capacità offline e zero costi API. Questo benchmark rivela esattamente cosa si può aspettare da 9 modelli popolari LLMs su Ollama su un RTX 4080.

Oggi ci concentriamo sui GPU per consumatori di alto livello e sui moduli di RAM. Specificamente sto esaminando prezzi RTX-5080 e RTX-5090, e 32GB (2x16GB) DDR5 6000.

Uno degli strumenti più essenziali per gli utenti Linux è l’emulatore di terminale.

Il NVIDIA DGX Spark (GB10 Grace Blackwell) è ora disponibile in Australia presso principali rivenditori di PC con scorte locali. Se hai seguito le informazioni sui prezzi e la disponibilità globale del DGX Spark, sarai interessato a sapere che i prezzi in Australia vanno da $6.249 a $7.999 AUD a seconda della configurazione di archiviazione e del rivenditore.

Cognee è un framework Python per costruire grafi di conoscenza da documenti utilizzando LLM. Ma funziona con modelli autohostati?

Dopo l’installazione automatica di un nuovo kernel, Ubuntu 24.04 ha perso la connessione Ethernet. Questo problema frustrante è successo nuovamente a me, quindi sto documentando la soluzione qui per aiutare gli altri che affrontano lo stesso problema.

Con questa folle volatilità dei prezzi della RAM, per formare e avere un’immagine più chiara, iniziamo noi a tracciare il prezzo della RAM in Australia.

Il mercato della memoria sta vivendo una volatilità dei prezzi senza precedenti alla fine del 2025, con un aumento drammatico dei prezzi della RAM su tutti i segmenti: prezzi della RAM in aumento.

Confrontiamo i prezzi delle GPU per consumatori di alto livello, che sono particolarmente adatte per i modelli linguistici (LLM) e in generale per l’intelligenza artificiale (AI). Specificamente sto guardando a prezzi RTX-5080 e RTX-5090.

La democratizzazione dell’AI è arrivata. Con modelli open source come Llama 3, Mixtral e Qwen che ora competono con i modelli proprietari, i team possono costruire potenti infrastrutture AI utilizzando hardware consumer - riducendo i costi mentre mantengono il pieno controllo sulla privacy dei dati e sull’implementazione.

Docker Model Runner è lo strumento ufficiale di Docker per eseguire modelli AI localmente, ma abilitare l’accelerazione GPU di NVidia in Docker Model Runner richiede una configurazione specifica.

Ho trovato alcuni interessanti test di prestazioni su GPT-OSS 120b in esecuzione su Ollama su tre diversi piattaforme: NVIDIA DGX Spark, Mac Studio e RTX 4080. Il modello GPT-OSS 120b della libreria Ollama pesa 65 GB, il che significa che non si adatta alla VRAM da 16 GB di un RTX 4080 (o al più recente RTX 5080).

Docker Model Runner (DMR) è la soluzione ufficiale di Docker per eseguire modelli AI localmente, introdotta ad aprile 2025. Questa guida rapida fornisce un riferimento veloce per tutti i comandi essenziali, le configurazioni e le best practice.

Nel panorama attuale dell’informatica, la virtualizzazione è diventata essenziale per lo sviluppo, i test e l’esecuzione di diversi sistemi operativi. Per gli utenti Linux che cercano un modo semplice e intuitivo per gestire le macchine virtuali, GNOME Boxes si distingue come un’opzione leggera e user-friendly che privilegia l’usabilità senza sacrificare le funzionalità.

Il futuro dell’AI non riguarda solo modelli più intelligenti modelli — riguarda il silicio più intelligente.

L’hardware specializzato per l’inferenza LLM sta guidando una rivoluzione simile a quella del mining del Bitcoin verso gli ASIC.