Scarica la mia App gratis

IL MEDICO DEVE DIRCI SE USA L’AI: CHIEDIAMOGLIELO

Una legge italiana ci dà il diritto di sapere se la nostra diagnosi è passata da un’intelligenza artificiale. È l’articolo 7 della legge italiana sull’AI: in sanità l’AI fa da supporto, e la diagnosi e la cura le decide il medico. Lo stesso articolo dice che il paziente va informato quando si usano questi sistemi. Un software, per esempio, può segnalare una macchia sospetta su una radiografia. A decidere cosa scrivere nel referto resta una persona, con nome e cognome.

Prima di quella persona, però, c’è il software, e per il software le regole arrivano anche dall’Europa. L’AI Act, le regole comuni dell’Unione sull’intelligenza artificiale, mette il software medico con dentro l’AI fra i sistemi ad alto rischio. Per questo, prima di arrivare negli ospedali, deve passare dei controlli. Le date in cui questi obblighi scattano davvero sono ancora in discussione, perché a Bruxelles sono arrivate proposte per rinviarli. Quei controlli, quando partiranno, si faranno a monte, lontano dall’ambulatorio.

Il diritto a essere informati vale solo se il paziente sa di averlo. E durante la visita, fra la ricetta e il referto, quasi mai qualcuno ci dice se un software ha guardato i nostri esami. Il medico ha poco tempo per ogni visita e noi usciamo col referto in mano, senza chiedere da dove arriva. Basta una domanda al medico: «Su questi esami avete usato un’intelligenza artificiale?».

Quindi la prossima volta che fate un esame o vi arriva un referto, chiedete al medico se è passato da un’AI. Fatelo diventare un’abitudine, come la domanda sugli effetti collaterali di un farmaco. Cominciate subito, dalla prossima visita!

Voi cosa ne pensate?

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.