Gli attacchi all’AI che non si vedono, ma che fanno danni veri
Oggi molti pensano ancora all’attacco informatico come a un blackout digitale: o ti rubano i dati, o ti spengono i sistemi con un ransomware o un DDoS. Seguitemi fino alla fine che vi spiego un terzo tipo di attacco, più silenzioso, che cambia il comportamento dell’Intelligenza Artificiale e colpisce soldi, salute e lavoro.
Nel modello tradizionale c’era sempre un “momento zero”: server giù, servizi fermi, titoli sui giornali. Il danno era evidente. Con l’AI non serve più spegnere niente. Il sistema resta acceso, continua a rispondere, ma inizia a prendere decisioni diverse, poco alla volta.
Il trucco è nei dati. Molti modelli di AI vengono aggiornati continuamente con nuovi flussi informativi. Se qualcuno riesce a inserire lì dentro dati falsi o manipolati, l’AI impara un comportamento storto. Tecnicamente si parla di avvelenamento dei dati. Nella pratica significa spostare di qualche grado la bussola delle decisioni, senza far scattare allarmi.
Primo esempio, le banche. Un modello di AI valuta le transazioni sospette e i profili dei clienti. Se i dati vengono manipolati, il sistema può iniziare a considerare “rischiosi” i clienti di una certa zona o con certe caratteristiche, anche se hanno sempre pagato tutto in tempo. Risultato: mutui negati, fidi tagliati, famiglie e piccole imprese bloccate per una scelta algoritmica inquinata.
Secondo esempio, la sanità. Soprattutto negli Stati Uniti, dove gli ospedali usano sempre di più strumenti di triage automatizzato, i modelli aiutano a decidere chi vedere prima e chi dopo. Un attacco può spostare le priorità: alcuni gruppi di pazienti vengono sistematicamente penalizzati, altri favoriti. Non si vede nessuna schermata di errore, ma i tempi di attesa cambiano e l’accesso alle cure non è più equo.
Terzo esempio, logistica e forniture. Un’AI che ottimizza rotte, magazzini e fornitori, se manipolata, può iniziare a favorire sempre gli stessi partner o a scegliere percorsi che sulla carta sembrano efficienti, ma che aumentano ritardi e costi reali. Per un grande operatore questo significa milioni bruciati, prodotti deperibili buttati, clienti persi.
La caratteristica comune è una: il sistema funziona. L’app si apre, il sito risponde, i call center lavorano. Non ci sono luci rosse accese. Solo che, lentamente, il cervello artificiale ha cambiato criteri. E lavora al servizio di chi è riuscito a manipolarlo.
Per difendersi non basta più avere backup e firewall. Bisogna trattare i modelli di AI come infrastrutture critiche. Questo significa monitorare nel tempo come cambiano le loro decisioni, registrare le versioni dei modelli, definire soglie oltre le quali scatta un controllo umano. In molti Paesi si discute di standard specifici di auditing proprio per i modelli usati in finanza, sanità e pubblica amministrazione.
A noi cittadini conviene fare domande molto concrete a banche, assicurazioni, ospedali, piattaforme: dove usate l’AI per decidere su di me, chi controlla che quei modelli non siano stati manipolati, chi può fermarli se qualcosa non torna.
La nuova frontiera non è solo l’attacco ai dati o ai server, è l’attacco alle decisioni. Non a caso questa serie si chiama Decisioni Artificiali. Perché sempre più spesso è il software a scegliere al posto nostro, e la vera sicurezza è sapere chi può cambiarne il comportamento.
#DecisioniArtificiali #MCC #Documentario #AI
👉 Ora che vivo a New York, stiamo definendo le settimane in cui sarò in Italia nei prossimi mesi. Chi vuole ingaggiarmi per eventi è pregato di contattare il mio team al più presto, perché stiamo finalizzando le date dei viaggi e dei giorni disponibili: [email protected]
👉 informazioni su come sponsorizzare i microdocumentari: https://sponsorship.microdocumentari.com
