Perché le allucinazioni dell’AI stanno facendo danni gravissimi e non ce ne accorgiamo
Le allucinazioni dell’Intelligenza Artificiale fanno danni perché finiscono dentro le decisioni. Noi chiediamo una risposta, la riceviamo già scritta bene, ordinata, con un tono sicuro. La leggiamo veloce, la incolliamo in un documento, la giriamo a qualcuno.
Il problema è l’errore che spesso sta nei dettagli, e i dettagli sono la parte che controlliamo meno: un numero con una virgola spostata, una data, un nome di ente, una scadenza, una regola valida applicata al contesto sbagliato.
In ufficio per esempio chiediamo “quanto cresce questo mercato”, “quanti utenti”, “qual è la percentuale”. Arriva un valore preciso con una spiegazione bella pulita. Quel valore entra in un report e diventa una slide. Nessuno apre la fonte originale perché la risposta è già impaginata nella testa, sembra già pronta per essere usata. Se quel numero è inventato o solo stimato male, il budget e le priorità partono storti, e ce ne accorgiamo quando è tardi.
A casa succede uguale, solo con posta più alta. Chiediamo indicazioni su farmaci, sintomi, interazioni, dosi, tempi. Arriva una risposta calma, con passaggi ordinati. Se c’è un dettaglio sbagliato, anche piccolo, cambia il comportamento di chi legge.
Chiediamo una regola su scuola, documenti, tasse, scadenze. Arriva un testo che sembra un vademecum. Se quel testo mescola città diverse, stati diversi, anni diversi, la persona si muove convinta e poi sbatte contro la realtà.
Il danno più grande è la catena. Una riga falsa diventa “base” per la domanda successiva. Noi incolliamo quel pezzo in una seconda richiesta, e l’AI costruisce sopra. La seconda risposta sembra ancora più solida perché ha più contesto. In realtà sta consolidando l’errore iniziale.
Come possiamo proteggerci? Una risposta dell’AI che contiene apparenti fatti deve restare bozza finché non esiste una fonte primaria controllata da noi: un documento originale, una pagina ufficiale, un testo integrale. Poi, i dettagli si verificano prima del resto: nomi, date, numeri, citazioni, scadenze.
Quando entrano soldi, salute, contratti, identità, la decisione parte solo dopo un controllo esterno, anche banale, anche di due minuti, ma fatto davvero. L’AI può scrivere veloce, ma la verifica deve rimanere nostra. Altrimenti sono guai! Fatemi sapere cosa ne pensate.
#DecisioniArtificiali #MCC #Documentario
