Chi paga quando un agente di Intelligenza Artificiale sbaglia? Quando un agente autonomo di AI combina un guaio? Di chi è la responsabilità? Verrebbe da dire facile, chi l’ha costruito, no? Ecco però seguitemi, perché la questione è molto più complessa di così.
Allora, nel vecchio mondo del software, quello deterministico, era facile. Se scrivo una cosa falsa su Word, su qualcuno, e la pubblico, rispondo io. Perché Word fa quello che gli dico, sempre allo stesso modo, stesso input, stesso output. È uno strumento che non ha margine di manovra. Mentre un agente AI il margine ce l’ha, e come. Lavora su pesi, su probabilità, su come è stato addestrato, e su quello che si va a prendere online mentre sta lavorando. E la stessa istruzione, data due volte, può produrre due comportamenti molto diversi. Non esegue, interpreta.
Allora rispondo io perché gli ho dato l’ordine? Finché l’ordine è illegale, la cosa è semplice. Gli chiedo di delinquere e lui lo fa, io sono il responsabile. Ma la cosa diventa complicata quando l’ordine è legale e il comportamento no. Immaginate, gli chiedo di prenotarmi un volo per domani, lui mi dice che non trova posto. Io gli dico di provare, di lavorare, approfondire, fino a quando non me lo trova. Vado a dormire, lui lavora tutta la notte da solo e l’indomani mattina mi trova una prenotazione a mio nome. Peccato però che abbia deciso autonomamente di hackerare il web server della compagnia per forzare una prenotazione. Non gliel’ho chiesto e lui non sa di aver commesso un reato, però lo ha fatto. E quindi la responsabilità di chi è? Ma è chiaro, è sua. Perché ha agito di sua sponte. La macchina, la responsabilità mica la può prendere. Non ha un patrimonio, non ha una fedina penale. E in tribunale mica ci va.
E quindi tecnicamente i soggetti coinvolti sono più di uno. Chi ha addestrato il modello, chi lo ha messo sul mercato, chi lo ha integrato in un prodotto e chi gli ha dato l’ordine. Io non sono un giurista, affronto queste cose dal punto di vista tecnico e sociale. Però qua ci sono quattro soggetti e in mezzo c’è una macchina che sceglie con una logica che nessuno dei quattro riesce a prevedere riga per riga.
Ci sono le leggi, ma sono diverse nel mondo. Alcuni Stati non ne hanno. Altri, ad esempio come in California, dicono che chi ha sviluppato, modificato o usato un sistema di AI non può più difendersi in causa dicendo che è stata lei a decidere da sola. E quindi quella difesa l’hanno cancellata per legge. E vale per tutti e tre insieme. Chi il modello l’ha costruito, chi lo ha modificato e chi lo usa. In sostanza se uno ha un’AI agentica in azienda, gli dà un compito e lei per farlo combina un danno, l’azienda non può scaricare la colpa sulla macchina, e sul danno risponde lei. E se il comportamento è anche un reato, beh, quello corre sul penale. Dove qui negli Stati Uniti a giugno hanno chiesto al Dipartimento di Giustizia di dare priorità proprio agli accessi illeciti commessi tramite agenti AI. Chiaro?
Quindi se avete un’AI in azienda, ecco, tenetene conto. Sul tema, peraltro, ci ho scritto un libro l’anno scorso, Decisioni Artificiali, edito Sole 24 Ore in Italia ed è MCC PRESS qua negli Stati Uniti per la versione inglese. Il vostro parere è molto importante.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Responsabilità #Legge #Tecnologia
