Scarica la mia App gratis

86 – Safiya ha smascherato Google!

Safiya ha smascherato Google!

#SafiyaNoble è una studiosa americana di media e società. All’inizio analizza come le persone usano Google, con l’idea diffusa che sia uno strumento neutro, una macchina che restituisce risultati oggettivi. Ma i dati che trova raccontano tutt’altro.

Digitando termini legati a donne nere o latine i risultati mostrano contenuti degradanti, sessisti, razzisti. Non si tratta di eccezioni ma di pattern sistematici. È la prova che gli algoritmi non sono neutrali: amplificano pregiudizi, li consolidano, li trasformano in verità percepite.

Nel 2018 pubblica Algorithms of Oppression, un libro che raccoglie anni di ricerca e che mostra come la ricerca online possa diventare uno strumento di oppressione. È una denuncia scomoda, perché va a toccare il cuore di un colosso che tutti considerano una fonte affidabile.

Le reazioni non tardano. Molti la accusano di politicizzare la tecnologia, altri minimizzano il problema. Ma le sue analisi circolano, vengono discusse nelle università, riprese dai giornali, citate nei dibattiti pubblici. In breve tempo diventano un riferimento per chiunque voglia capire come funzionano davvero gli algoritmi.

Oggi qui negli Stati Uniti le sue idee sono entrate anche nelle aule legislative. Quando si parla di regolamentare le big tech, i suoi concetti sono ormai inevitabili. Safiya Noble ha dato al mondo un linguaggio per leggere il digitale non come finestra neutra sulla realtà, ma come specchio che riflette e amplifica disuguaglianze e discriminazioni.

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.