Vi sarà capitato di vedere video di fuffaguru diventati esperti di Intelligenza Artificiale in 5 minuti che vi dicono “Assurdo!” spiegandovi delle cose sull’AI. È una parola chiave: quando vedete “Assurdo!” sapete già di cosa si tratta.
Per esempio alcuni raccontano che possiamo far girare l’AI sul nostro computer. Ma in realtà non è per niente così semplice. Perché la maggior parte dei computer delle persone ha una quantità di RAM insufficiente per far girare modelli locali, oppure non vi dicono che stanno parlando di modelli pesantemente quantizzati, ovvero incapaci di fare lontanamente le stesse cose che fanno i modelli originali.
Perché un modello AI, per girare correttamente sul vostro computer, deve stare tutto dentro la memoria veloce. Quella della scheda grafica, la VRAM. Più il modello è grosso, più memoria serve. Un modello da 120 miliardi di parametri non ci entra in una scheda video normale, nemmeno costosa.
I Mac questo problema non ce l’hanno da anni. Apple usa la memoria unificata: un’unica pozza di RAM che processore e scheda grafica si dividono al volo, secondo quello che serve in quel momento. Per questo un MacBook fa girare in locale modelli che su un PC Windows con la stessa RAM si rifiutavano di partire. Non perché il Mac fosse magico. Perché la RAM la usava tutta, insieme, senza muri tra una parte e l’altra.
Ma il fuffaguru dell'”Assurdo!” queste cose mica ve le spiega. Vi dice solo che potete far girare l’AI sul vostro computer, e basta. Poi però bisogna entrare nel dettaglio, e le cose cambiano.
Ora Microsoft ha appena presentato a Computex il Surface Laptop Ultra, il primo portatile costruito sulla nuova piattaforma RTX Spark di Nvidia. Fino a 128 GB di memoria unificata. Un chip ARM con GPU Blackwell, una potenza da un petaflop di calcolo AI. È la prima risposta diretta ad Apple.
Sembrano cose tecniche ma oggi sono la base per capire e soprattutto per non farsi fregare dai fuffaguru dell’AI che sino a ieri cercavano di vendervi NFT o metaversi.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #IntelligenzaArtificiale #FuffaGuru #LocalAI
✅ Ora che vivo a New York tocca definire con anticipo le settimane in cui sarò in Italia nei prossimi mesi. La email di chi mi gestisce gli ingaggi per gli eventi è: [email protected] 👉 Se leggete questo commento mettetegli un like così rimane visibile in cima. Grazie
📕 È uscito il libro Decisioni Artificiali!
https://www.amazon.it/dp/B0GVQ311PL
🔍 GUARDA ANCHE:
https://www.youtube.com/watch?v=P5nNF49qEZQ
