il commento

Perché Digits di NVIDIA è “l’iPhone”’dell’AI

di |

Digits è l’iPhone dell’AI. È la MagnaVox Odyssey che soppianta i cabinet da videogame. È la PlayStation 1 che quasi azzera il mercato Games per PC. Ecco perché.

Ars Artificialis: una rubrica a cura di Nicola Grandis. Parlare e dialogare sulla migliore approssimazione di Arte Artificiale realizzata sin qui dall’uomo, quella che comunemente viene definita Intelligenza Artificiale. Per leggere tutti gli articoli clicca qui.

Quanti erano gli sviluppatori di App prima del 9 Gennaio 2007? Praticamente nessuno.

Quel giorno Steve Jobs presentò iPhone che non era solo un telefono, ma una piattaforma da software. Steve Sheraton lo capì subito e pubblico su AppStore iBeer, una delle prime “inutility” dell’ appena nato marketplace. Per 2.99 dollari si poteva scaricare l’inutile App per sbalordire gli amici mimando il gesto di bere una birra dal proprio nuovissimo smartphone. Da lì a poco l’App iBeer iniziò a produrre 20.000 dollari al giorno per Sheraton.

Nel 2024 AppStore ha movimentato 120 Miliardi di dollari, di cui circa 40 sono finiti direttamente in Apple.

18 anni dopo, Jen-Hsun Huang, CEO di NVidia, presenta Digits. Un datacenter per il salotto. Al suo interno respira una GB10, Blackwell GraceHopper, processore ARM e 128 GB di memoria da GPU. Sprigiona 1 Petaflop e può fare inferenza su un modello da 200B di parametri, multi-head, autoregressivo che spara Token. Per 3.000 USD si può avere un modello simile a ChatGPT che gira tra la TV e la Soundbar.

Digits è l’iPhone dell’AI. È la MagnaVox Odyssey che soppianta i cabinet da videogame. È la PlayStation 1 che quasi azzera il mercato Games per PC.

Vedremo sorgere sviluppatori di AI casalinghi che acquistando la prodigiosa scatola inizieranno a sfornare modelli AI? No, probabilmente non accadrà.

Le case saranno invase da Digits? No, nemmeno questo probabilmente accadrà.

Ma Digits può permettere ad un Università o ad una scuola superiore di dotarsi di un HW tutto sommato economico per far sperimentare l’Intelligenza Artificiale a giovani ricercatori. Può consentire a giovani menti di sperimentarne i limiti e di misurarsi con le sue difficoltà.

Nella testa di Huang probabilmente lo scopo di Digits è anche quello di avvicinare più sviluppatori a GB (ARM). Ad oggi, il software Non-NVidia per queste piattaforme non è così diffuso. Le librerie native per processori ARM sono una frazione di quelle disponibili per x86 o x64. E questo si, forse in parte, lo potremmo vedere succedere.

Cosa dobbiamo ricordare?

Nel 2007, mentre nasceva iPhone, il calcolatore che guidava la Top500 era IBM Blue-Gene, capace di mezzo petaflop. 2 Milioni di dollari, 1024 processori per Rack, 256 MB di RAM per nodo.

Digits per 3.000 USD offre il doppio della capacità nel palmo di una mano.

Cosa ci aspetta?

Non lo sappiamo ovviamente, ma tra qualche anno la potenza di calcolo di Digits sarà anche in quegli oggetti di informatica portatile che chiamiamo Smartphones. Nuove tecniche di AI li renderanno più capaci e più flessibili ed un signore con la sua giacca di pelle nera sarà ancora lì per stupirci e presentarci scorci di futuro.

In un mondo che sta pensando di costruire centrali nucleari per alimentare DataCenters che assorbono tra i 2 ed i 5 GW, NVidia mostra i muscoli, si ricorda di essere nata come industria di schede per il mercato consumer e sogna di vendere 1 miliardo di piccole macchine AI, una per casa. HUGS.

Leggi le altre notizie sull’home page di Key4biz