Gli agenti AI sono come Mr. Magoo. Ciechi e convinti
I ricercatori di Nvidia e Microsoft hanno paragonato gli agenti AI a Mr. Magoo. Quel cartone che cammina sull’impalcatura convinto che vada tutto bene, e per fortuna non cade.
Le due aziende che ci vendono questa roba ci stanno dicendo che i loro agenti non si curano di sicurezza né di affidabilità. Vanno dritti verso l’obiettivo. Non guardano dove mettono i piedi. Li hanno messi alla prova qui negli Stati Uniti e quasi sempre facevano cose pericolose o sbagliate. Uno doveva mandare una foto a un bambino e l’ha mandata anche se dentro c’era violenza. Un altro, per far pagare meno tasse, ha scritto che una persona era disabile. Non capiva. Eseguiva.
Intanto noi gli mettiamo in mano sempre di più. Prenotazioni, soldi, accessi e decisioni. Non a caso ci ho scritto un libro, Decisioni Artificiali.
E qualcuno corre. Gli Emirati hanno annunciato che entro due anni metà dei servizi pubblici girerà su agenti AI. Metà di uno Stato affidata a macchine che decidono ed eseguono da sole. E attenzione, decidono e agiscono in base ai dati con cui sono stati addestrati: per cui dietro può sempre esserci qualcuno che in realtà sceglie, e poi dà la colpa all’AI.
C’è già una lista dei primi dieci rischi di sicurezza di questi agenti. Credenziali che si creano da soli. Istruzioni che gli cambiano sotto il naso senza che se ne accorgano.
Li chiamiamo autonomi e intelligenti. Poi quelli che li costruiscono li paragonano a un cieco fortunato. E noi gli passiamo le chiavi di casa, di banca e della nostra vita digitale.
A un sistema che non sa di stare sbagliando.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #AgentiAI
