L’Intelligenza Artificiale non è il nostro dottore! Attenzione!
Autodiagnosticarsi con un chatbot è pericolosissimo. La risposta arriva scritta bene, ordinata, con un tono sicuro. Sembra una visita. Non lo è. E quando stiamo male, quella sicurezza ci spinge a decidere in fretta.
Uno studio dell’Università di Oxford pubblicato su Nature Medicine ha messo alla prova alcuni dei chatbot più usati su casi clinici realistici. Nei test accademici, con descrizioni perfette e linguaggio tecnico, le risposte erano spesso corrette. Quando invece i casi venivano raccontati da persone comuni, come facciamo tutti quando ci fa male qualcosa, l’accuratezza scendeva attorno a un terzo. Due volte su tre il modello non centrava il problema.
A persone che descrivevano un mal di testa arrivato di colpo, fortissimo, il classico “mi è esplosa la testa”, quindi un sintomo che in medicina può voler dire anche un sanguinamento nel cervello e richiede urgenza, il chatbot non ha dato una risposta stabile. A qualcuno, con una descrizione molto simile, ha scritto “riposa e aspetta”. A qualcun altro ha scritto “vai subito in ospedale”. Se fossero stati pazienti veri e avessero seguito il consiglio sbagliato, avrebbero rischiato la vita.
Sulla salute questa variabilità è un rischio. Un modello linguistico lavora solo su quello che scriviamo. Se un dettaglio non lo inseriamo, per lui non esiste. Se minimizziamo un sintomo, lui non lo percepisce. Se siamo imprecisi, lui costruisce comunque una risposta coerente, anche quando è fuori strada. Un medico vero fa domande, osserva, collega segnali, valuta urgenza, si assume responsabilità.
Ed è qui che si capisce perché usare un chatbot come medico è una cattiva idea. I chatbot non hanno accesso al nostro corpo, non vedono il nostro stato generale, non misurano la pressione, non controllano le pupille, non ascoltano il tono della nostra voce, non ci visitano. Generano testo plausibile, ma la medicina richiede valutazione clinica.
Se abbiamo un sintomo nuovo, forte, improvviso, non cerchiamo il consiglio più convincente in una chat. Chiamiamo un medico. Se l’AI ci ha già risposto, portiamo quella risposta alla visita come lista di domande, non come diagnosi.
L’AI può informare, può aiutarci a capire termini complessi. La decisione clinica resta umana. Su salute e farmaci si va da dottori veri.
Condividete questo video per salvare più persone possibile. Più persone sanno, meno persone rischiano.
