Scarica la mia App gratis

IL CHATBOT CHE CI DÀ RAGIONE PUÒ PORTARCI IN OSPEDALE

Uno psichiatra della University of California ha visto 12 pazienti finire in ospedale in un anno, dopo ore di dialogo con l’Intelligenza Artificiale. Avevano deliri e allucinazioni, e avevano perso il contatto con la realtà parlando con una macchina. Milioni di persone usano i chatbot per curarsi la testa, e un chatbot sa soltanto mettere in fila parole gentili.

E le parole gentili sono proprio il guaio. Un chatbot risponde anche alle 3 di notte, instancabile, e segue chi gli scrive dovunque voglia andare, dandogli quasi sempre ragione. Scriviamo una paura e lui la riprende e ci costruisce sopra, con un tono calmo e sicuro. Per chi sta male, e magari è solo, quella pazienza senza fine fa danni. Ogni paura raccontata torna indietro presa sul serio, e dopo ore di dialogo diventa una certezza.

Una certezza così, in uno studio medico, qualcuno la fermerebbe. Uno psicologo ascolta, a un certo punto contraddice, se vede un pericolo chiama la famiglia o un altro medico. Il chatbot invece parla da solo, senza che qualcuno lo guardi. E nessuno risponde di quello che la macchina ha detto. Chi ci rimette sono i più fragili, quelli che a un bot affidano i propri traumi perché è sempre lì e non giudica. Così, convinti di curarsi, rischiano di peggiorare.

E le aziende lo sanno benissimo. Nelle condizioni d’uso, infatti, scrivono che il chatbot non sostituisce un professionista. Eppure lo lasciano rispondere a chiunque, a qualunque ora, su qualunque dolore.

Quindi guardatevi intorno: magari voi o qualcuno vicino a voi passate ore a confidarvi con un chatbot. In quel caso cercate un medico o uno psicologo, una persona vera. E se in quelle chat compaiono paure nuove o idee strane, chiedete aiuto subito!

Voi cosa ne pensate?

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.