Una macchina a guida autonoma sta andando a 50 all’ora.
Davanti, all’improvviso, sbuca una bambina. A sinistra c’è un muro. A destra una donna anziana sul marciapiede.
Cosa deve fare?
Frenare? Sterzare? Proseguire dritto?
A decidere sarà un software. Un algoritmo che, in meno di un secondo, prenderà la scelta al posto nostro.
Ma in base a quali valori?
Chi ha deciso che la vita della bambina vale più di quella della donna anziana?
Chi ha stabilito che è meglio sacrificare chi è a bordo o chi è fuori dalla macchina?
Queste decisioni esistono già.
Sono programmate da esseri umani che lavorano per aziende tecnologiche.
Usano database morali globali, statistiche, sondaggi.
Ma nessuno di questi strumenti tiene davvero conto di noi. Della nostra cultura, delle nostre convinzioni, del nostro modo di vedere il mondo.
Ecco il vero problema dell’etica non personalizzata.
È comoda per chi progetta i sistemi, ma pericolosa per chi li subisce.
Perché nel momento in cui serve davvero, noi non contiamo.
Per questo sto lavorando a un progetto che cambia le regole.
Un sistema che permette a ciascuno di noi di definire il proprio profilo etico.
E che può essere integrato nei sistemi digitali, per farli funzionare in base ai nostri principi, non a quelli di qualcun altro.
Non possiamo più delegare l’etica agli algoritmi.
È ora di riportarla nelle nostre mani.
