Uno psichiatra della University of California ha visto 12 pazienti finire in ospedale in un anno, dopo ore di dialogo con l’Intelligenza Artificiale. Avevano deliri e allucinazioni, e avevano perso il contatto con la realtà parlando con una macchina. Milioni di persone usano i chatbot per curarsi la testa, e un chatbot sa soltanto mettere in fila parole gentili.
E le parole gentili sono proprio il guaio. Un chatbot risponde anche alle 3 di notte, instancabile, e segue chi gli scrive dovunque voglia andare, dandogli quasi sempre ragione. Scriviamo una paura e lui la riprende e ci costruisce sopra, con un tono calmo e sicuro. Per chi sta male, e magari è solo, quella pazienza senza fine fa danni. Ogni paura raccontata torna indietro presa sul serio, e dopo ore di dialogo diventa una certezza.
Una certezza così, in uno studio medico, qualcuno la fermerebbe. Uno psicologo ascolta, a un certo punto contraddice, se vede un pericolo chiama la famiglia o un altro medico. Il chatbot invece parla da solo, senza che qualcuno lo guardi. E nessuno risponde di quello che la macchina ha detto. Chi ci rimette sono i più fragili, quelli che a un bot affidano i propri traumi perché è sempre lì e non giudica. Così, convinti di curarsi, rischiano di peggiorare.
E le aziende lo sanno benissimo. Nelle condizioni d’uso, infatti, scrivono che il chatbot non sostituisce un professionista. Eppure lo lasciano rispondere a chiunque, a qualunque ora, su qualunque dolore.
Quindi guardatevi intorno: magari voi o qualcuno vicino a voi passate ore a confidarvi con un chatbot. In quel caso cercate un medico o uno psicologo, una persona vera. E se in quelle chat compaiono paure nuove o idee strane, chiedete aiuto subito!
Voi cosa ne pensate?












