L’AI sbaglia la diagnosi e paga il medico
Un medico che conosco qui a New York mi ha detto che prima di firmare un referto ricontrolla tutto quello che gli suggerisce l’Intelligenza Artificiale, perché se sbaglia lei la colpa resta a lui.
Nel Regno Unito, dove ho vissuto 17 anni prima di trasferirmi qui negli Stati Uniti, questa settimana è uscito un rapporto che lo dice nero su bianco. La sanità pubblica inglese usa già l’AI per leggere radiografie, riassumere le visite e scrivere le lettere ai pazienti. Se l’AI non vede un tumore in una lastra del torace, il paziente torna a casa tranquillo e il cancro intanto avanza. Se consiglia una dose sbagliata di anticoagulante, il paziente finisce in terapia intensiva con un’emorragia.
E con la legge attuale, in tutti questi casi, la causa la fanno al medico. Tutta la responsabilità su di lui, da solo.
Chi ha sviluppato e venduto il software invece non rischia quasi niente, perché la legge inglese sulla responsabilità dei prodotti difettosi è del 1987 e l’AI non rientra nella definizione di prodotto. Il rapporto chiede al governo di cambiarla, così anche chi produce questi sistemi risponde dei danni che fanno.
E nella stessa settimana il governo inglese ha annunciato strumenti di AI per oltre 500 mila dipendenti della sanità. Prima la tecnologia in mano a tutti, le regole sulla responsabilità si vedrà.
Io lo dico da anni anche nei tavoli istituzionali. L’AI in medicina va benissimo, ma la responsabilità deve essere chiara prima che qualcuno si faccia male.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #SanitàDigitale #Responsabilità #MedicinaAI
🗓️ Ora che vivo a New York tocca definire con anticipo le settimane in cui sarò in Italia nei prossimi mesi. La email di chi mi gestisce gli ingaggi per gli eventi è: [email protected]
