Hanno trovato 4.700 profili finti su app di incontri. Dietro c’era un’Intelligenza Artificiale. In 2 settimane hanno ingannato 25.000 persone. Persone vere che scrivevano a qualcuno e rispondevano però a una macchina.
E sapete chi lo dice questo? Anthropic, l’azienda che fa Claude. Nel suo rapporto sulle minacce hanno trovato la rete e l’hanno spenta.
E sapete cosa c’è nello stesso rapporto? 40 casi di abuso fermati. Qualcuno ha provato a usare Claude per fare ricerca su armi biologiche, qualcun altro per sorvegliare dissidenti e giornalisti. Operazioni di Stato, dicono loro: Cina, Iran, Emirati.
E poi il caso più grosso: 151 milioni di conversazioni in 3 mesi. Oltre 3.500 account falsi, collegati ad Alibaba secondo il rapporto. E lo scopo era succhiare le capacità del modello per addestrare il loro Qwen. Si chiama distillazione: fai milioni di domande a un’intelligenza migliore della tua, ti tieni le risposte e con quelle insegni alla tua. Il modello lo copi senza entrare in nessun server.
Vedete, io Qwen lo uso. Gira sulle mie macchine, come altri modelli cinesi a pesi aperti. È bravo, costa poco. I pesi li regolo io. Lo riaddestro io. E secondo il rapporto però è cresciuto anche così.
Peraltro a scoprire tutto questo è stata un’azienda privata, guardando i suoi log. E le spie e i profili falsi non li ha mica fermati un governo. Li ha fermati chi vende l’abbonamento. E li ha fermati perché usavano Claude.
Un modello a pesi aperti gira su un server privato però, e lì i log mica li può guardare nessuno. E chi ci riprova probabilmente sceglie un modello che non tiene traccia. Quello lo scarichi e basta.
E noi in Europa abbiamo l’AI Act. Abbiamo le regole scritte bene. In Italia abbiamo fatto la prima legge sull’AI, a cui ho partecipato anch’io nella creazione. Ma nessuna azienda europea vede 151 milioni di conversazioni passare, perché il traffico passa da altri. E le minacce le vede chi ha il traffico. Chi ha il traffico decide anche cosa raccontarci e quando.
Quindi difenderci vuol dire avere modelli nostri, server nostri, data center nostri, con i log che guardiamo noi. Oggi in Europa ci si difende guardando i rapporti trimestrali di aziende straniere.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Sicurezza #Sovranità #Privacy
