Dentro i cartoni per bambini generati dall’AI ci sono cose terribili e pericolose
Su YouTube circolano migliaia di video per bambini con dentro facce deformate, arti in più, testi senza senso, sequenze che non hanno nessuna logica. Colori vivaci, vocine allegre, e in mezzo roba che un adulto farebbe fatica a guardare. I bambini li vedono ogni giorno. I genitori quasi mai se ne accorgono.
Non li ha fatti nessuno. Li ha generati un’Intelligenza Artificiale, in automatico, senza che nessun essere umano abbia mai controllato il risultato. Questo è il problema. Non c’è nemmeno un umano che preme i tasti. L’AI scrive lo script, genera la voce, produce le immagini, esporta il video e lo carica su YouTube. Da solo. Senza che nessuno veda cosa è uscito. Per questo non si parla di qualche centinaio di video. Si parla di milioni.
Canali costruiti così hanno già decine di milioni di iscritti. Uno con base in India ne conta oltre undici milioni. Nessuna squadra creativa. Nessun esperto di sviluppo infantile. Solo una macchina che gira giorno e notte senza mai fermarsi.
L’algoritmo di YouTube fa il resto. Una ricerca del New York Times ha misurato cosa succede dopo aver guardato un solo video di Cocomelon. In quindici minuti, oltre il 40 percento dei video consigliati nei Shorts erano già contenuti sintetici. In un quarto d’ora.
Ho parlato con una pediatra qui a New York che mi ha spiegato cosa succede a un bambino piccolo esposto a immagini iper-realistiche distorte senza capire cosa sta guardando. Un bambino di tre anni non ha ancora gli strumenti per processare una faccia con sei dita o un personaggio che si deforma mentre canta una filastrocca. Vede tutto, registra tutto, non filtra niente.
Se fossero video AI ben fatti, con contenuti pensati, costruiti con cura, il problema non esisterebbe. L’AI non è il problema. Il fatto che nessuno controlli quello che l’AI produce prima di mandarlo in pasto a milioni di bambini, quello è il problema.
YouTube dice che chiede ai creator di dichiarare i contenuti generati con AI. Self-reporting. Chi produce quel materiale a scopo di profitto è lo stesso a cui si chiede di ammettere di averlo fatto. Il sistema funziona così.
In Italia YouTube è la piattaforma digitale più usata in assoluto, con oltre 37 milioni di utenti al mese. L’ottanta percento degli adolescenti italiani la usa regolarmente. E il sessantadue percento dei bambini italiani mette le mani su uno smartphone. Sono loro il pubblico di questi video. E quello che guardano, adesso, nessuno lo controlla davvero.
Voi cosa ne pensate?
