Scarica la mia App gratis

395 – HA NASCOSTO UNA TRAPPOLA NELL’ESAME E LI HA BECCATI TUTTI

Ha nascosto una trappola nell’esame e li ha beccati tutti. 32 studenti su 35 hanno consegnato un compito che parlava di Madagascar, ma l’esame era sulla rivoluzione industriale.

Allora, un professore di storia dell’università del Mississippi, qua negli Stati Uniti, aveva scritto dentro la traccia una riga in bianco su bianco. Invisibile a chi legge, ma leggibilissima da una macchina. Diceva di infilare la parola Madagascar da qualche parte, in un modo che ovviamente non avesse senso.

Loro hanno copiato la traccia, l’hanno incollata in un chatbot AI e si sono portati dietro anche quella riga senza saperlo. Poi questi studenti cosa hanno fatto? Hanno incollato tutta la risposta dell’AI e l’hanno messa nel compito senza rileggerla.

E così negli elaborati è comparso il Madagascar che galleggia di lato attraverso il pomeriggio. Oppure la bicicletta viola del Madagascar che sussurra al soffitto. Il Madagascar che indossa un tostapane a una partita di basket. Bocciati tutti e 32. Due hanno fatto ricorso, uno l’ha vinto.

Vedete, a me mica scandalizza che abbiano usato l’Intelligenza Artificiale. Mi scandalizza che nessuno abbia riletto due righe prima di consegnare. Usare uno strumento e controllare cosa produce sono due gesti completamente diversi. E il secondo lo stiamo perdendo.

Allora, 9 studenti universitari su 10 qua negli Stati Uniti dicono di usare l’AI almeno ogni tanto. E 6 docenti su 10 pure. Siamo tutti dentro, anche se spesso facciamo finta che sia un tema legato ai regolamenti.

E la stessa scena la vedo nelle aziende. Un amico che lavora in una società di consulenza qua a New York mi ha raccontato che riceve report perfetti nella forma, con dentro numeri che nessuno ha verificato. Perché nessuno li rilegge più, perché sembrano già buoni.

Poi certo, il testo bianco su bianco nei compiti funziona una volta sola. Poi si sparge la voce e la trappola muore. Però quello che resta alla fine è un’abitudine. Cioè consegnare cose che non abbiamo mai letto. E lo stiamo facendo tutti sempre di più.

Voi cosa ne pensate?

#DecisioniArtificiali #MCC #Esame #Università #Trappola

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.