L’IA non funziona senza etica e ce ne accorgiamo adesso
Stiamo riempiendo il mondo di intelligenza artificiale, ma continuiamo a trattarla come fosse solo software. Seguitemi fino alla fine che vi spiego perché, senza una vera etica personalizzata, stiamo consegnando decisioni fondamentali a sistemi che applicano valori che nessuno ha scelto davvero.
Ogni IA incorpora già una visione del mondo. Sempre. Qualcuno decide quali dati usare, cosa ottimizzare, quali comportamenti premiare e quali correggere. Dentro questi modelli ci sono idee precise su cosa conti davvero: sicurezza o libertà, profitto o equità, accuratezza o velocità. Non le chiamiamo filosofia, ma lo sono. E noi le scopriamo solo quando qualcosa va storto.
Qui negli Stati Uniti lo si è visto nei sistemi di valutazione del rischio usati nei tribunali. Per anni hanno influenzato sentenze e libertà delle persone basandosi su modelli che penalizzavano interi gruppi in modo arbitrario. Non perché qualcuno avesse scritto un pregiudizio nel codice, ma perché quel pregiudizio era già nei dati e l’IA lo ha trasformato in regola. È la prova di cosa accade quando l’etica resta implicita.
Lo stesso vale per i dilemmi morali. La Moral Machine del MIT ha mostrato come culture diverse facciano scelte diverse negli stessi scenari: salvare una persona o molte, privilegiare il giovane o l’anziano, aumentare la sicurezza o proteggere la privacy. Se queste preferenze finiscono nei modelli senza un lavoro esplicito sui criteri, stiamo trasferendo nelle macchine filosofie non dichiarate.
Eppure continuiamo a trattare la questione come se bastasse un codice etico aziendale o un audit dell’ultimo minuto. Qui serve molto di più. Serve stabilire quali valori devono guidare i sistemi che poi useremo in banca, in ospedale, nelle piattaforme digitali. In ogni ambito queste scelte esistono già, solo che restano nascoste.
Etica personalizzata significa rendere visibile questo strato invisibile. Una banca dovrebbe chiarire se punta più sulla sicurezza o sull’inclusione. Un ospedale dovrebbe dire quanto pesa la privacy rispetto ai benefici della ricerca. Una piattaforma social dovrebbe indicare con precisione come bilancia protezione dei minori e libertà di parola. Questo è il lavoro da fare, e qui negli Stati Uniti molte università hanno iniziato a integrarlo nello sviluppo dei modelli.
Il nodo riguarda anche la nostra autonomia culturale. Senza un’etica dichiarata rischiamo di importare quella incorporata nei modelli costruiti altrove. È un trasferimento silenzioso di valori che finisce nelle istituzioni, nei servizi pubblici, nelle nostre vite quotidiane.
Conta capire una cosa: quando l’etica resta implicita diventano implicite anche le decisioni. E a quel punto la tecnologia non segue più i nostri valori, siamo noi a seguire i suoi.
