I robot hanno bisogno di una targa
Un robot in un ristorante di San Jose ha iniziato a ballare in modo incontrollato qualche giorno fa. Ha rotto piatti, ha fatto volare bacchette. Tre dipendenti ci hanno messo minuti per fermarlo, cercando nell’app come spegnerlo. Nessun pulsante di emergenza, nessun interruttore. Solo tre persone che cercavano di bloccare a mano una macchina che non voleva fermarsi. Il robot indossava un grembiule con scritto “I’m good”. Non lo era.
La prima cosa che ho pensato: questo è quello che succede quando un chatbot ha un’allucinazione. Solo che qui lo fa fisicamente. I robot autonomi funzionano su sistemi probabilistici, lo stesso motore che fa inventare dati agli assistenti AI. Quando un chatbot delira, chiudi la finestra. Quando un robot delira, ti viene addosso.
A San Jose il sistema ha preso decisioni autonome, ha continuato a eseguirle, nessuno sapeva come fermarlo. Quello era pure un robot piccolo. Pensate a uno da 65 chili in un magazzino, o in un ospedale.
Abbiamo regolamentato i droni: non puoi farne volare uno senza patente, assicurazione, rispetto delle zone. Le auto: nessun veicolo circola senza targa, revisione, assicurazione. I robot autonomi in spazi pubblici circolano senza nessuna di queste regole. Il fatto che non li vediate ancora nelle vostre città non significa che non stiano arrivando.
Ho proposto una cosa semplice: targa obbligatoria e ben visibile su ogni robot autonomo in spazio pubblico. Grande, leggibile, tracciabile. È lo stesso problema delle auto prima delle targhe. I veicoli avevano numeri di telaio, utili in officina, inutili a inseguirli per strada. Se un robot ti danneggia, devi sapere chi è il proprietario che risponde.
Lo standard per robot industriali esiste, copre le fabbriche ma non copre il ristorante dove stai cenando. Sono ad alto rischio e non regolamentati per l’uso civile, e nel frattempo li compri su Amazon. Quel robot era lì per una promozione di Zootopia, per fare ballare i bambini. Con i robot fisici il delirio ha conseguenze materiali. Ha chili, ha braccia.
Targa obbligatoria, pulsante di emergenza fisico, assicurazione obbligatoria, responsabilità chiara. Lo abbiamo già fatto per ogni altro mezzo che si muove tra le persone. Voi cosa ne pensate?
