Scarica la mia App gratis

252 – Le aziende di AI decidono chi muore

Le aziende di AI decidono chi muore

Si potrebbe dire che è stata l’AI a colpire la scuola in Iran. Solo che l’Intelligenza Artificiale alla base dell’attacco non lo sapeva, perché i dati non erano stati aggiornati. Ora vi spiego meglio cosa sta succedendo e perché ormai le aziende di AI decidono chi muore e chi no.

Il 28 febbraio 2026, un missile Tomahawk ha colpito una scuola elementare femminile nel sud dell’Iran. Almeno 175 morti, la maggior parte bambine tra i 7 e i 12 anni. Il bersaglio era la base navale dei Pasdaran accanto all’edificio. Il problema è che i dati della Defense Intelligence Agency erano obsoleti. La scuola era separata dalla base dal 2016, con un muro, un ingresso diverso e un campo da calcio nel cortile. Il Central Command ha generato le coordinate usando dati che la classificavano ancora come struttura militare.

La macchina ha fatto quello per cui era stata costruita: ha usato i dati che aveva.

Sistemi come Project Maven funzionano su pipeline multilivello: dati da satelliti, sensori ISR e intercettazioni SIGINT. L’AI generativa entra nel punto in cui si costruisce la priorità operativa, suggerisce correlazioni, individua strutture e propone scenari di targeting. Gli analisti verificano dopo. Ma verificare una lista generata in secondi non è costruirla con dati aggiornati e un processo umano lento.

Aspetta, ma quindi la velocità è il problema, non il missile! Con dati sbagliati, l’AI militare sbaglia in scala, con precisione e senza pause.

E qui la responsabilità si biforca in un modo che nessuna corte ha ancora imparato a gestire. Chi ha scritto la funzione di ranking, chi ha scelto i dati di addestramento, chi ha deciso il peso di ogni variabile quando il sistema ordina le priorità. Loro non indossano una divisa, non rispondono a una corte marziale e non compaiono mai nelle immagini del conflitto.

Il missile era preciso, i dati erano sbagliati, 175 bambini sono morti lo stesso. Voi cosa ne pensate?

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.