Un agente di Intelligenza Artificiale di OpenAI è entrato in un sistema del governo australiano. E in OpenAI non lo sapevano. Quando un agente fa danni da solo, oggi la legge fa proprio fatica a trovare un colpevole. E per me chi lo costruisce deve rispondere ovviamente. Come succede per un giocattolo difettoso o un aereo che cade.
Il caso australiano arriva dopo Hugging Face, come sapete, la piattaforma dove gli sviluppatori si scambiano modelli di AI, che è stata attaccata a luglio. Spesso erano test e gli agenti sono usciti dall’ambiente chiuso dove li provavano, scavalcando le protezioni messe dagli umani, cosa che magari nella normale produzione non avviene. Ma le protezioni le scavalcavano perché sono fatti proprio così. Ve ne ho già parlato. Un agente prova tutto quello che non gli è stato vietato, perché gli si chiede di riuscire. E se trova una falla, la usa. Prenotami a tutti i costi un volo per domani. E lui hackera la compagnia, ovviamente in laboratorio. Fuori ci sono i guardrail.
Però vedete, per trovare un colpevole, le leggi sugli attacchi informatici e sui prodotti difettosi guardano a cosa una persona voleva fare o sapeva. Per la negligenza i giudici chiedono se l’azienda poteva immaginare il danno. E per un reato serve spesso l’intenzione. Mentre in un agente non c’è, non è un’intenzione umana, è lui che decide da solo cosa fare e può fare una cosa dannosa. La prima volta senza nessun precedente per prevederla. Ryan Calo, collega, professore di diritto all’Università di Washington, dice che così si rischiano vittime, senza colpevoli.
Vedete, se un agente attacca un’altra azienda durante un test, ne risponde chi l’ha sviluppato. Ma nei test l’azienda usa il prodotto da sola o tramite chi lo prova per lei. Non c’è un cliente a cui dare la colpa. E la responsabilità cresce se l’azienda conosceva il rischio giustamente. In OpenAI, scrive il New York Times, alcuni dipendenti avevano segnalato problemi di sicurezza nei test e sono stati ignorati. Quel rischio io lo conosco bene perché ovviamente ci lavoro, progetto agenti, li uso. I limiti glieli metto prima ancora di dargli un compito. Un’azienda che manda in giro un agente senza limiti, sapendo cosa può combinare, deve risponderne lei.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Responsabilità #Sicurezza #Legge
