Ha cliccato Invio e ha distrutto 440 milioni in mezz’ora
1 agosto 2012, Wall Street. La società si chiama Knight Capital, una delle più grandi qui negli Stati Uniti nel trading automatico. Quel giorno lanciano un nuovo sistema, ma non lo testano a fondo. Un errore nel codice basta a far crollare tutto: appena parte, il software compra e vende azioni in modo compulsivo. Milioni di operazioni in pochi minuti, i prezzi saltano, il mercato si deforma. I trader guardano gli schermi, bloccati. Il sistema corre più veloce di chiunque. Quando riescono a spegnerlo, è tardi: 440 milioni di dollari spariti in mezz’ora. Knight Capital fallisce e viene assorbita subito dopo.
Nessun attacco, nessun hacker. Solo una riga di codice sbagliata in una macchina lasciata andare da sola, senza freni, senza controllo, senza piano B. È la finanza moderna: automatizzata, opaca, fuori scala. I sistemi decidono chi guadagna e chi perde in millisecondi, e quando qualcosa va storto non c’è nessuno che possa intervenire in tempo.
Oggi quella stessa logica è ovunque, nel credito, nel marketing, nelle risorse umane, nella sanità, e ora si intreccia con l’intelligenza artificiale. Quando una AI prende una decisione sbagliata, chi se ne accorge? Chi la ferma?
Knight Capital non parla solo di finanza. Parla del potere cieco della tecnologia senza controllo. Il sistema ha eseguito il suo compito alla perfezione: il problema è che nessuno aveva capito davvero cosa aveva costruito. Oggi le intelligenze artificiali possono cliccare al posto nostro, comprare, vendere, accettare, pubblicare, confermare. E noi non ce ne accorgiamo.
