Deepfake sessuali, i blocchi sulle app sono sacrosanti, bisogna metterli, ma servono a poco. Vi spiego perché.
Quando esplode uno scandalo su Grok o su un’altra app, la reazione è corretta: blocchi, filtri, limitazioni, indignazione popolare. Servono, perché tagliano via l’abuso più facile, quello a portata di clic.
Però pochi vi spiegano che c’è la parte che passa quasi sempre sotto traccia: sono gli strumenti open source, gratis, copiabili, installabili sul proprio computer. Funzionano in locale, anche offline. Nessuno può controllare: non hanno una sede, un customer care, un pannello centrale da spegnere. Chi li usa decide tutto: che modello caricare, che parametri impostare, che output salvare, dove condividerlo.
Qui negli Stati Uniti l’FBI avverte che i casi di ricatti e sextortion collegati a immagini sessuali generate con l’Intelligenza Artificiale stanno continuando ad aumentare, e il fenomeno si sta allargando. L’Intelligenza Artificiale che viene usata molto spesso è in locale, gira sui computer personali e non si può quindi bloccare.
NCMEC, che raccoglie segnalazioni legate allo sfruttamento dei minori, descrive aumenti molto rapidi di casi che includono contenuti generati in locale con AI. L’abuso non dipende da una sola piattaforma, dipende dal fatto che la tecnologia è diventata “portabile”.
La differenza tra una piattaforma pubblica e un tool open source sta nell’attrito. Sulle app l’attrito è basso: scrivi, clicchi, ottieni. In locale l’attrito è più alto: serve competenza, serve hardware, serve saper configurare. Quell’attrito però scende ogni mese. Le schede grafiche sono sempre più diffuse, i modelli diventano più leggeri, le guide diventano più chiare. Il risultato è semplice: più persone riescono a produrre materiale illecito senza passare da servizi visibili e controllabili.
Questa è la ragione per cui i blocchi sulle app, pur essendo necessari, non chiudono il rubinetto. Limitano la massa, non fermano chi ha competenze.
Bene i filtri sulle piattaforme e le procedure rapide, perché bisogna bloccarli, però serve educazione digitale concreta. E soprattutto prima di indignarsi, giustamente, perché non vi spiegano perché quella piattaforma, quell’altra, ha permesso di fare certe cose, dovete sapere che oggi esistono software locali che non si possono bloccare.
