Scarica la mia App gratis

LO UTAH HA DATO A UN’INTELLIGENZA ARTIFICIALE IL PERMESSO DI PRESCRIVERE FARMACI

Con una foto del viso e 4,99 $ al mese, in Utah un’Intelligenza Artificiale prescrive farmaci per l’acne. Il medico guarda il caso solo dopo, ed è la prima volta che succede qua negli Stati Uniti. Per me è un precedente pericoloso, perché quando c’è di mezzo la salute un medico deve controllare prima che il farmaco arrivi al paziente.

Il sistema si chiama Nolla Health e funziona con un questionario a scansione del viso, poi in pochi minuti consegna il piano di trattamento. Lo Utah lo ha autorizzato senza la firma preventiva di un medico, con un controllo a cose fatte. Chi lo difende dice che così i medici restano liberi per i casi complessi.

Quella diagnosi però la fa un sistema probabilistico, un programma che calcola la risposta più probabile, di solito si prende. Lo sa anche lo Utah, che come condizione chiede il 95% di accordo con i medici. In partenza accetta che 1 volta su 20 la macchina decida diversamente dai medici.

In quella volta su 20 ci rimette il paziente, perché il medico controlla quando il farmaco è già stato preso. E anche un farmaco per l’acne ha le sue controindicazioni, e poi può essere solo l’inizio. L’altra condizione, zero eventi avversi gravi, cioè nessun danno serio ai pazienti, si verifica allo stesso modo: contando dopo cosa è successo alle persone.

L’approvazione dello Utah è pensata come un modello per gli altri Stati, che seguiranno. A 4,99 $ al mese, con una risposta in pochi minuti, un servizio così attira molta gente. Si parte dall’acne, una malattia considerata lieve, e accettato il principio si passa presto a farmaci più pesanti.

E non va bene, fate subito una verifica: se un’app o un chat vi suggerisce un farmaco, o anche una crema per i brufoli, chiedete prima a un medico. E se vi offrono una cura decisa da una macchina, domandate chi l’ha controllata prima di mandarvela a casa! O no.

Voi cosa ne pensate?

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.