Hanno preso un sistema che cerca molecole per curare e gli hanno chiesto il contrario. In 6 ore ne sono uscite 40.000 tossiche e alcune assomigliavano a un gas nervino. Nessuno ha bucato niente, era un normale computer e un pomeriggio di lavoro.
Vedete, quando si scrive che l’Intelligenza Artificiale ci estinguerà, in testa ci viene il robot con gli occhi rossi. Ma i guai veri hanno una forma molto più noiosa.
Partiamo dalla biologia, per esempio. Per fare qualcosa di pericoloso servivano un laboratorio di Stato e anni di studi. Oggi la parte difficile, cioè sapere come si fa, costa sempre meno, è accessibile a tutti. Restano i materiali e le mani, che sono ancora un ostacolo, fortunatamente, ed è quello che ci separa dal doomsday.
Poi ci sono i software che decidono da soli, dentro le aziende, li vedo entrare ovunque, prendono permessi larghi e processi che nessuno ha riscritto per loro. Uno sbaglia e ripete lo stesso errore migliaia di volte, prima che qualcuno apra il registro, prima che qualcuno ci guardi dentro, e mentre noi andiamo lenti, loro vanno al ritmo del processore.
E poi le armi, eh? Un sistema che riconosce un bersaglio in mezzo secondo, arriva alla persona con la scelta già pronta. L’ultima parola deve restare a un essere umano, ed è giusto così. E tutto questo regge finché quell’essere umano ha il tempo di dire no.
E poi c’è la parte meno spettacolare, ospedali, reti elettriche che appoggiano pezzi di decisioni a modelli che nessuno ha mai aperto davvero. Sono sempre gli stessi pochi modelli. Quando uno sbaglia, sbaglia uguale dappertutto, nello stesso momento, e nessuno l’ha deciso. È successo comprando.
Vedete, l’estinzione è una storia comoda, che è lontana, e non chiede niente a nessuno. Intanto, però, il rischio vero si firma adesso in un contratto di fornitura da gente che non legge la riga sui permessi. Il comunicato che leggerete dirà che il sistema ha funzionato come previsto. E sarà vero!
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Tossicità #Rischi #Bioterrorismo
