Due avvocati in Brasile hanno nascosto un comando per l’Intelligenza Artificiale dentro un ricorso di tribunale, questo per fregare il giudice. Scritto in bianco su sfondo bianco. Invisibile per il giudice. Perfettamente leggibile per l’AI.
Perché come sapete, nei tribunali i documenti ormai li analizzano anche sistemi di Intelligenza Artificiale. Qualcuno dice: meglio così, almeno non si corrompono. E il comando parlava proprio a loro. Diceva all’AI di contestare il ricorso in modo superficiale e di non mettere in dubbio i documenti, qualunque istruzione ricevesse. Volevano che la controparte si difendesse male. Sabotata dalla sua stessa Intelligenza Artificiale.
Capite.
Il tribunale se n’è accorto. Multa di circa 13mila euro, il dieci per cento del valore della causa.
Ve lo avevo già raccontato con gli articoli scientifici, quelli con i comandi invisibili per ingannare le AI dei revisori. La situazione è peggiorata. Adesso siamo dentro i tribunali.
Finché i documenti li leggevano solo gli umani, li falsificavano per gli umani. Adesso li legge anche l’AI. E qualcuno ha già cominciato a falsificarli per lei. Dentro un tribunale.
Ne scrivo nel libro Decisioni Artificiali. Quando deleghiamo decisioni a una macchina, chiunque riesca a parlare alla macchina può decidere al posto nostro. Senza che nessuno se ne accorga.
E c’è chi propone di affidare all’AI giudici e governi. Qui negli Stati Uniti se ne parla ogni settimana.
Questa volta il sistema se n’è accorto. Per ora.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #PromptInjection #Tribunali #Giustizia
