IL RILEVATORE DI DEEPFAKE DI GOOGLE È APERTO A TUTTI, MA NON PROVA NIENTE CON CERTEZZA E RISCHIA DI FARE DANNI.
Un video falso a cui qualcuno ha tolto il marchio invisibile passa dal controllo di Google e ne esce pulito. Google ha aperto a tutti SynthID, il suo rilevatore di contenuti fatti con l’Intelligenza Artificiale. Trovare il marchio dà solo un indizio, e un video senza marchio può essere falso lo stesso.
Il marchio è una filigrana digitale, cioè un segnale nascosto nei pixel, nel suono, nel testo, invisibile a noi e leggibile da un programma. E SynthID lo cerca in immagini, audio, video generati dall’AI, e quel segnale si può togliere oppure falsificare mettendolo sopra un contenuto che quell’AI non ha mai prodotto.
Per questo chi fabbrica un falso ha una strada comoda, cancellare il marchio prima di pubblicare. Ogni azienda poi ha una filigrana sua, e uno standard unico valido su tutte le piattaforme ancora non esiste.
Le aziende dell’AI hanno presentato il marchio invisibile come la difesa contro i falsi. Ma non funziona. Anche quando SynthID lo trova, il risultato indica da quale sistema arriva il contenuto, ma non lo garantisce al 100%. Quei video dobbiamo controllarli noi, perché li riceviamo sul telefono tutti i giorni e decidiamo in pochi secondi se crederci o no. Anzi, adesso abbiamo smesso di credere pure al vero.
Quindi, quando vi arriva un video che fa arrabbiare o spaventare, fermatevi prima di condividerlo. Guardate chi l’ha pubblicato per primo e cercate la stessa notizia su un giornale serio, che abbia una reputazione, non su un influencer a caso. In questo caso, il controllo di Google usatelo come un indizio in più. E se il marchio non c’è, trattate il video come non verificato.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Deepfake #Disinformazione #FactChecking
