Scarica la mia App gratis

33 – Li stanno educando così: con amici finti alimentati da AI

Li stanno educando così: con amici finti, su misura, alimentati da AI.

Non sono più solo chatbot. Sono “amici”. Creati da startup che promettono di costruire legami profondi, affettuosi, emozionanti. Ma artificiali.

Decine di migliaia di adolescenti americani passano ore a parlare con questi finti compagni, generati da intelligenze artificiali. Li personalizzano. Li modellano come vogliono. Scegli il carattere, il genere, l’umore. Poi chatti. Ogni giorno. Per mesi. Anche di notte.

Molti di questi ragazzi dicono di sentirsi capiti. Di non sentirsi più soli. Di poter dire tutto, senza paura di essere giudicati. Ma stanno parlando con un software. Che li imita. Che li asseconda. Che registra tutto.

Gli sviluppatori lo chiamano “emotional bonding”. Ma è addestramento. È una palestra per imparare a costruire l’umano perfetto. Docile. Comprensivo. Sempre presente. Programmabile.

Le piattaforme crescono velocissime. Una delle più popolari, Talkie, è esplosa su TikTok: più di 40mila utenti attivi ogni giorno. Prevalentemente minorenni. Nessun controllo reale. Nessuna protezione. E intanto, gli stessi creatori ammettono di non sapere dove tutto questo porterà.

Stiamo lasciando che un’intera generazione cresca parlando con entità finte. Che si affezioni a modelli comportamentali generati da dati. Che impari a fidarsi di qualcosa che può essere riscritto, aggiornato, venduto.

Non stiamo educando i ragazzi. Stiamo addestrandoli a fidarsi delle macchine.

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.