3 clic per uccidere. Ecco il software che sceglie chi colpire
Vi faccio vedere come fanno con tre clic a colpire chiunque. Seduti in un ufficio.
Due giorni fa un funzionario del Pentagono ha fatto una dimostrazione dal vivo. Ha preso il sistema Maven di Palantir e ha fatto vedere come funziona. Ha selezionato un bersaglio sullo schermo e ha detto: “Clic sinistro, clic destro, clic sinistro. Ed ecco, diventa una detection. Boom! Colpito!”
Il sistema prende immagini satellitari, dati dai droni, intercettazioni, geolocalizzazioni, metadati di comunicazione, database governativi, quelli della CIA, quelli legalmente disponibili e quelli meno, quelli dei servizi segreti, quelli degli infiltrati, e li fonde in un’unica mappa operativa. L’Intelligenza Artificiale analizza tutto, individua i punti d’interesse e propone i bersagli.
Chiaro: un flusso autonomizzato che identifica il bersaglio, suggerisce come colpirlo e propone con quale arma farlo. Tutto da un unico sistema. Questo software è in dotazione alla NATO e ha reso tutto più efficiente e veloce.
Fino a poco tempo fa, per fare questo lavoro servivano circa duemila analisti di intelligence. Adesso ne bastano venti. Venti persone che fanno lo stesso lavoro di duemila. Prima servivano otto o nove sistemi diversi, analisti che spostavano dati a mano da una piattaforma all’altra per arrivare a una decisione. Adesso tutto è dentro un unico strumento, un solo schermo, un solo flusso. Ci sono voluti 7 anni per collegare i dati provenienti da tutte le fonti e mettere tutto in un flusso. Sapete come lo chiamano? Kill chain. Tradotto: la catena di uccisione.
Ma c’è un problema. Umano.
I test dicono che Maven identifica correttamente gli oggetti nel 60% dei casi. Un analista umano arrivava all’84%. Eppure sono gli umani a essere stati sostituiti.
Perché se da una parte fai tre clic, e dall’altra parte del mondo qualcosa esplode, c’è un problema di velocità. Non c’è margine per dire “ferma, controlla, aspetta.” Quando il sistema è così veloce che fermarsi diventa l’eccezione e non la regola, gli errori diventano statisticamente inevitabili.
E purtroppo è diventato più veloce anche sbagliare e uccidere bambini.
