L’elaborazione con LLM (Large Language Model) potentissimi è ora facile come un cocktail con due cubetti di ghiaccio. Project Digits è il personal supercomputer per l’AI presentato da Nvidia al recente Ces, già pronto per essere lanciato a maggio 2025 al costo di partenza di 3.000 dollari. Questo dispositivo, un cubetto compatto con dimensioni desktop, è alimentato dal nuovo GB10 Grace Blackwell Superchip e può gestire modelli AI con fino a 200 miliardi di parametri. Il sistema è progettato per essere abbastanza potente da eseguire calcoli AI avanzati ma abbastanza piccolo da stare su una scrivania e funzionare con una normale presa elettrica.
Ogni sistema Project Digits include 128GB di memoria e fino a 4TB di archiviazione NVMe. È possibile collegare due sistemi insieme per gestire modelli ancora più complessi con fino a 405 miliardi di parametri. Il chip GB10 offre una potenza di elaborazione di 1 petaflop e include le più recenti tecnologie di Nvidia, come i Cuda core e i Tensor Cores di quinta generazione.
Il supercomputer è compatibile con strumenti e librerie AI di Nvidia, inclusi kit di sviluppo, modelli pre-addestrati e framework come PyTorch e Python, permettendo agli sviluppatori di lavorare e testare i loro modelli AI localmente prima di distribuirli su servizi cloud o data center.
Si tratta di un dispositivo che potrebbe allungare la vita degli LLM, o anche imporli come standard de facto dell’elaborazione, rendendone permanente il successo di questo modello e quindi delle Gpu che danno loro vita.
Non bisogna dimenticare che l’azienda con la maggior capitalizzazione mondiale (la Befana ha portato a Nvidia il sorpasso ad Apple) ha anche recentemente lanciato un dispositivo più economico, il Jetson Orin Nano Super, mirato a hobbisti e startup, al prezzo di 249 dollari, che può gestire modelli fino a 8 miliardi di parametri.
Data Center nucleari e ghiacciati
A questo punto è interessante porsi qualche domanda sul futuro dei Data Center. Questo concetto si sta ampliando sia verso il basso, sia verso l’alto: da un lato abbiamo ora le versioni miniaturizzate, dall’altro gli enormi centri da alimentare a energia nucleare e alloggiare in posti lontani dalla civiltà. Quanto questa rivoluzione possa essere duratura dipende dall’effettiva applicabilità degli LLM nel tempo, cioè da quanto tempo ci vorrà prima che arrivi la prossima ondata software. Resta il fatto che essendo oggi scaricabili direttamente su PC di bassa qualità degli LLM piuttosto potenti, avere anche una power house come il cubetto rischia di deformare il mercato, via via creando una massa sufficiente per allungare il ciclo di vita del software attuale basato appunto su LLM.
Nella valutazione della realizzabilità di concetti così ampi viene comunque da fare qualche considerazione anche geopolitica, purtroppo direi, visti gli accadimenti degli ultimi anni.
Parlando ancora di ghiaccio, i posti freddi e lontani dal mondo dove si potrebbero costruire centrali nucleari con ridotti problemi per la popolazione e alimentarne i Data Center più potenti mai costruiti sono due, Antartide e Groenlandia. L’Antartide è più complicata da usare per questo scopo, sia per le maggiori distanze dalle altre terre emerse, sia perché è amministrativamente suddivisa tra svariati Paesi. Più facile è “colonizzare” la Groenlandia, molto più vicina alle terre emerse del Canada. È ben più lontana dall’Europa, anche se è di formale proprietà della Danimarca. È per questo che Trump, nel suo nuovo imperialismo amministrativo, sta cercando di comprare (se non rivendicare) la Groenlandia dalla Danimarca, ma anche di attrarre negli USA alcuni Stati canadesi, il che ridurrebbe lunghezza e problematicità dei cavi marini di connessione con la “Terra Verde”, come il marketing scandinavo chiamò la Groenlandia per convincere i suoi abitanti ad andare a popolarla, in quel breve periodo tra la “scoperta” del Vinland (Nordamerica) e la piccola glaciazione (metà XIV secolo) che rese inabitabile quella terra verde.
Cavi o satelliti?
Ovviamente c’è differenza tra AI desktop e AI groenlandese. I dati elaborati in casa sono già da te e sono di tua proprietà, mentre i dati elaborati in Groenlandia hanno altre caratteristiche e devono essere spostati. La trasmissione può avvenire principalmente per due vie, cavi sottomarini e onde radio. Nel primo caso sarà molto più facile avvicinare gli Stati Uniti alla Groenlandia per terra, mentre nell’altro caso è già disponibile la flotta di Space X, la cui effettiva capacità è ancora tutta da scoprire.
Amplificare il controllo dei dati del mondo è una strategia che non può essere realizzata nei quattro anni di un mandato presidenziale statunitense. Inoltre queste idee portano conflitti: la competizione con la Danimarca per la Groenlandia è in realtà una competizione con l’Unione Europea, e per quanto riguarda la connessione satellitare il pensiero della Cina non è favorevole al passaggio di satelliti non suoi sopra al suo territorio (per “sopra” abbastanza grande, si direbbe in analisi matematica). Sui cavi, invece, non potrebbe dire nulla.
Queste iniziative riguardano sì la tecnologia, ma sono comunque destinate ad aumentare i conflitti attuali, e non a risolverli. Inoltre, eventuali nuovi software non legati agli LLM potrebbero creare in qualunque momento una nuova glaciazione che raffredderebbe il percorso a suo favore, che sia sul tavolo o nei ghiacci.
