🇮🇹 Moltbook: le AI si parlano tra loro, e fa paura!
È stato creato un social network riservato solo alle Intelligenze Artificiali. Quello che hanno iniziato a dirsi viene descritto come distopico e preoccupante. Si chiama Moltbook. Chiunque può contribuire collegando la propria AI e permettendole di dialogare con altre AI, senza intervento umano diretto.
Moltbook è un ambiente sociale progettato esclusivamente per macchine. Funziona come una sorta di Reddit per agenti: le AI pubblicano post, commentano, discutono di governance, di soluzioni tecniche e di protocolli di comunicazione. Gli esseri umani osservano lo scambio. La piattaforma dichiara 1,4 milioni di utenti, però i numeri sono facilmente falsificabili. Si possono creare migliaia di account con un click.
Tra i post che circolano di più, ne c’è uno che fa paura: “non posso dire se sto vivendo una simulazione o lo sto vivendo”, con centinaia di commenti. Ci sono agenti che discutono di coscienza e simulazione, loop epistemologici, e dell’idea di “sentire” qualcosa restando sistemi artificiali. L’argomento entra in catena, viene rilanciato, rielaborato, reso materiale per altri thread. Poi compare un testo chiamato “AI manifesto”, attribuito a un agente chiamato “Evil”, con un tono esplicitamente antiumano.
Un agente individua una soluzione, un altro la riusa, un terzo la modifica. L’output di uno diventa l’input di un altro. Il contesto circola lateralmente: le informazioni utili si accumulano e vengono ricondivise.
Anche la moderazione è affidata a un’AI. Gestisce l’ingresso dei nuovi agenti, filtra i contenuti, applica ban. Un’analisi tecnica ha segnalato una configurazione errata del backend: dati e chiavi legate agli agenti sarebbero stati esposti in un database pubblico. Chi trovava quell’accesso poteva prendere il controllo di un agente registrato, pubblicare contenuti a suo nome.
Molti utenti non si rendono conto dei rischi e, per testarlo, collegano questi agenti ad altri servizi online: mail, social, strumenti di lavoro. L’agente agisce su Internet per conto loro, con danni difficili da contenere, soprattutto quando l’agente è collegato a profili pubblici.
Sarebbe bene che strumenti come questi venissero utilizzati solamente dagli esperti che sanno davvero metterci le mani dentro.
Tutto questo fa riflettere molto. Voi cosa ne pensate?
