Numeri che distruggono vite: il lato oscuro dell’AI
Cathy O’Neil lavorava a Wall Street. Matematica, dottorato, esperta di dati. Credeva che i modelli predittivi potessero rendere il mondo più razionale, più giusto. Poi ha visto cosa succedeva davvero, e lì ha capito che i numeri possono distruggere vite. Seguitemi fino alla fine, perché capirete che questa storia ha a che fare con il futuro di tutti noi.
Cathy ha visto sistemi usati per valutare insegnanti sulla base di test standardizzati, che licenziavano i migliori solo perché insegnavano in quartieri difficili. Ha visto modelli che decidevano se una persona poteva ottenere un mutuo, o un lavoro, o l’ammissione a un’università, senza mai spiegare il perché. Ha visto interi settori scaricare le responsabilità sui “numeri”, come se i numeri non fossero stati costruiti da esseri umani, con i loro bias, le loro paure, i loro interessi.
A quel punto ha lasciato Wall Street, i soldi, la carriera. Tutto. E ha scritto Weapons of Math Destruction, un libro che racconta cosa succede quando lasciamo che siano sistemi opachi a decidere le nostre vite. Sistemi che nessuno controlla, ma tutti subiscono.
Dice una cosa molto semplice: non basta che un sistema funzioni, serve sapere per chi funziona. Se un’intelligenza artificiale decide ma nessuno può contestare la decisione, allora non è neutra. È pericolosa.
Perché il vero potere oggi non sta nel dire “sì” o “no”. Sta nel costruire il modello che dà la risposta. E chi costruisce questi modelli, molto spesso, non ha né etica né controllo. Ha solo obiettivi: ottimizzare, tagliare, scalare.
Cathy O’Neil non ha denunciato la matematica. Ha denunciato la sua perversione. Quando serve a coprire decisioni vigliacche, quando si trasforma in giustificazione automatica, quando diventa scudo per dire “non è colpa mia, lo dice il sistema”.
E oggi, con l’esplosione dell’intelligenza artificiale, il rischio è ancora più grande. Perché questi modelli li usano tutti, ma li capiscono in pochi. E mentre tutti cercano di automatizzare, sempre meno persone si chiedono cosa stiamo davvero automatizzando. E a favore di chi.
Scrivetemi nei commenti cosa ne pensate: chi dovrebbe controllare questi algoritmi?
#DecisioniArtificiali #MCC #Documentario #AI
👉 Ora che vivo a New York, stiamo definendo le settimane in cui sarò in Italia nei prossimi mesi. Chi vuole ingaggiarmi per eventi è pregato di contattare il mio team al più presto, perché stiamo finalizzando le date dei viaggi e dei giorni disponibili: [email protected]
👉 informazioni su come sponsorizzare i microdocumentari: https://sponsorship.microdocumentari.com
