Le immagini, i video e le voci fatte con l’Intelligenza Artificiale adesso escono con una firma dentro, che noi non vediamo. E quelle fatte da chi ci vuole fregare invece no.
L’obbligo è quello della trasparenza dell’AI Act e sta addosso a chi fornisce il sistema, OpenAI, Google, Meta e tutti gli altri. Ogni file generato deve portare un segno leggibile da una macchina. E il segno è di due tipi. Uno è un’etichetta attaccata al file, che dice come e da chi è stato prodotto. L’altro sta dentro i pixel o dentro il suono e lì è messo apposta per sopravvivere. Poi il file gira, screenshot, ricompressione, caricato in una chat e riscaricato, passato dentro un’app che lo ritaglia per il formato verticale. L’etichetta attaccata al file salta via quasi subito. Quello dentro i pixel però tiene di più, ma con abbastanza passaggi si consuma anche lui.
E chi la firma proprio non la vuole. Ha una scorciatoia che non richiede nessuna competenza particolare. Si scarica un modello aperto e lo fa girare sul suo computer. Nessun fornitore in mezzo, nessun obbligo, nessun watermark.
Lo faccio anche io ogni giorno per il motivo opposto. Cioè i miei dati restano a casa mia, sulle mie macchine, e non finiscono sui server di qualcun altro. Ma quella stessa libertà lì, in mano a chi prepara una truffa, vale come una porta lasciata aperta. Ne ho parlato a lungo durante le discussioni, quando ho collaborato alla scrittura del Code of Practice dell’AI Act.
Quindi la firma finisce sul materiale delle aziende, delle redazioni, di chi mette il nome su quello che pubblica. Ma chi ricostruisce la voce di nostro figlio per chiamarci alle 11 di sera facendo finta che si sia perso o che abbia grossi problemi, sta fuori dall’obbligo e ci resta senza fare mica nulla di complicato.
Sì, ci abitueremo a controllare se un video ha la firma e quando non ce l’ha, ci dirà solo che chi l’ha fatto non era tenuto a metterla oppure l’ha tolta. Poi certo, l’obbligo serve lo stesso, perché rimette in ordine miliardi di file, che oggi girano senza alcuna indicazione, ma il giorno in cui l’assenza del watermark diventa per noi un segno di autenticità, quella regola l’abbiamo già girata contro di noi.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Trasparenza #Frode #OpenSource
