Per anni sono state voci. Rapporti contestati, smentite, “forse è successo, forse no”. Adesso qualcuno l’ha ammesso ad alta voce, davanti ai giornalisti, a un evento ospitato dall’ambasciata ucraina. Un drone completamente autonomo ha ucciso dei soldati. Da solo. Senza nessuno dietro a decidere.
Circa due anni fa, vicino a Bakhmut, dieci quadricotteri vengono lanciati verso il fronte. Volano per una decina di minuti. Poi entrano in quella che chiamano “modalità terminator”. Un modello di intelligenza artificiale cerca i bersagli e li colpisce. Da solo.
Nessun collegamento. Nessun video. Nessuno che guarda, nessuno che può fermarlo, nessun tasto per dire “aspetta”. Lo lanci e basta. Tutto quello che vede, muore.
Per sapere se aveva funzionato, hanno mandato un secondo drone, pilotato da una persona, a contare i morti.
Un drone armato normale manda le immagini a un essere umano, e l’umano decide se sparare. Qui no. Qui il software decide chi vive e chi muore. L’ultimo passaggio, quello della vita e della morte, lasciato a una macchina.
La cosa assurda è che l’Ucraina stessa lo vieta. Per legge l’ultimo gesto, quello dello sparo, deve restare in mano a una persona. Ma chi ha costruito quei droni dice tranquillo che lui vorrebbe lavorare senza quel limite. E a Kyiv discutono già se toglierlo. Un po’ dappertutto si corre nella stessa direzione.
Sono anni che lo ripeto, anche dove si scrivono le regole. La decisione finale non si delega. Soprattutto quella di uccidere. Ne ho fatto un libro intero. Decisioni Artificiali.
Una soglia così non si torna indietro. Una volta che una macchina ha ucciso da sola, e qualcuno l’ha ammesso senza che succedesse niente, è già la normalità di domani.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #ArmiAutonome #Droni #LethalAI
