Un adesivo su un cartello e il robot non vede più il muro, cambia solo quello che vede e nessuno gli ha messo le mani addosso. Vedete, fino a ieri un robot lo si metteva in sicurezza così: la gabbia intorno, il pulsante rosso, i sensori che bloccano il braccio quando passa una persona, per esempio.
Funziona tutto, però ha una condizione: il robot deve vedere giusto. E adesso dentro il robot c’è un’Intelligenza Artificiale, guarda con le telecamere, misura con il lidar e decide da sola.
E chi vuole fargli fare un danno lavora lì, su quello che entra nei sensori. Un’immagine stampata sul pavimento, un segnale radio che sposta il GPS di qualche metro. E il robot funziona alla perfezione ed esegue, solo che esegue la cosa sbagliata.
Vedete, in fabbrica vuol dire un braccio che posa un pallet dove c’è una persona. Su strada vuol dire un’auto che legge uno stop come via libera. Vedete, la gabbia protegge da un guasto, ma qui il robot è sano, va esattamente dove crede sia giusto andare e ci va con tutta la forza che ha.
IEEE Spectrum, la rivista degli ingegneri, lo sta scrivendo. Io ne parlo da anni, loro stanno lanciando adesso l’allarme. Io parlo da anni di targhe nei robot e di kill switch che stacchi veramente la batteria.
Vedete, la sicurezza va pensata sin dal primo giorno, se aggiunta dopo è una gabbia intorno alla macchina che purtroppo ha già preso le sue decisioni. Ci si sta muovendo lenti nel mondo perché i robot non sono ancora qui, gli umanoidi intelligenti, ma stanno arrivando.
Bisogna pensarci prima, avete visto cosa è successo con l’AI? È un po’ tardino, bisognava farlo prima. Per cui un kill switch fisico, obbligatorio, che stacchi la corrente.
Perché il software si inganna con una frase, ma il filo tagliato resta tagliato. E la seconda è una targa grande, obbligatoria, lo dico da anni, su ogni robot. Come le auto, così quando fa un danno si sa di chi è e chi risponde, anche se scappa via.
Vedete, un robot che cade è un incidente, ma un robot ingannato è un attacco. E i robot lì, li abbiamo messi noi, dobbiamo occuparcene per tempo.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Robotica #Sicurezza #Attacco
