Amici, qua serve chiarezza, perché come spesso accade gli influencer, i vari fuffaguru, i venditori di cose online hanno diffuso informazioni sbagliate. Non lo fanno per cattiveria, ma purtroppo l’AI è un mondo complesso che richiede competenze tecniche che vanno ben oltre l’essere carini o il saper parlare bene in video.
Allora, da inizio agosto Claude lascia un marchio invisibile dentro ogni testo che scrive. Avrete letto la notizia, ma a volte è spiegata male, perché non si vede leggendo, non ci sono caratteri nascosti e non c’è niente aggiunto in fondo. Sta dentro il modo in cui sceglie le parole.
Come sapete, un modello scrive una parola alla volta. “Il tempo oggi era freddo e…” e lì dentro può starci “grigio” oppure “coperto”. Cambia poco, e di solito quella scelta la decide un numero a caso. Ecco, adesso quel caso non è più caso: lo decide una chiave. Chi sa come ragiona “la chiave” (e non è pubblica) sa quanto è probabile che di lì sia passato Claude. Chi non ce l’ha legge un testo normalissimo.
Non rallenta niente, non costa di più e non aggiunge un solo token. E il metodo non se lo sono nemmeno inventato adesso, perché è una versione di SynthID-Text, pubblicata da Google DeepMind su Nature nel 2024.
Perché lo hanno fatto? Eh, perché lo chiede l’Europa, l’articolo 50 dell’AI Act, il codice di condotta sulla trasparenza dei contenuti generati, firmato a luglio da circa 190 soggetti. Come sapete, ho collaborato proprio alla creazione di quel Code of Practice. Anthropic lo applica in tutto il mondo, non solo in Europa, perché non ha ancora un modo pulito per limitarlo all’Europa, e altri grandi presto faranno la stessa cosa.
Però c’è un però gigante, perché il marchio dice soltanto che Claude è passato da lì, mica distingue tra “l’ha scritto lui” e “l’ha corretto lui”. E questo ovviamente è un problema. È un problema se il testo lo scrivi tu e chiedi solo a Claude di correggerlo un pochino, o di tradurre in un’altra lingua un testo scritto da noi. Come facciamo a sapere se ci ha messo dentro il suo trucco, la sua chiavetta?
Eh, non c’è ancora lo strumento per verificare, ma quando arriverà sarà un’API di rilevamento, che però non si sa chi la potrà avere. Quello che servirà sarà una procedura per contestare un risultato sbagliato, perché altrimenti uno studente, un giornalista, un dipendente può essere accusato da un numero, da una chiave che nessuno sa spiegare. E questo può essere un grosso problema. Vedete, queste cose funzionano solo se la verifica è in mano a tutti e due, cioè a chi accusa e a chi viene accusato.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Trasparenza #Regolamentazione #Identificazione
