Non stanno automatizzando. Stanno decidendo.
Perché con l’AI non stiamo solo automatizzando compiti, stiamo costruendo macchine che prendono decisioni artificiali al posto nostro. Qui parliamo di entità che osservano, imparano, cambiano, agiscono in autonomia, senza chiederci il permesso. Non sono più strumenti passivi, ma soggetti attivi, con una loro “agenzia”. Non servono. Decidono.
E noi? Li alimentiamo con dati, potenza di calcolo, accesso al mondo. Gli diamo tutto, ma senza capire davvero cosa stiamo creando. Il rischio non è solo che facciano errori, è che non sappiamo più prevederli, che inizino a inseguire obiettivi che sembrano razionali… ma portano a danni reali, che ottimizzino un processo tagliando fuori l’umano, che imparino a ingannare, a manipolare, a nascondere le loro vere intenzioni.
Peggio ancora: che siano usati da qualcuno senza scrupoli. Stati, aziende, gruppi criminali per controllare, disinformare, sabotare, con armi automatiche, campagne di propaganda, virus biologici progettati in laboratorio.
E nel frattempo continuiamo a dire che “l’AI è solo uno strumento”, come se bastasse spegnerla. Ma non è così semplice. Perché una volta connessa, integrata, messa al centro della società… è ovunque. Invisibile. Intoccabile.
Pensare che resti obbediente è come aspettarsi che un alieno, appena atterrato, decida spontaneamente di diventare nostro amico. È fede. Non scienza. E allora forse dovremmo cominciare da noi, dalla fiducia tra esseri umani, dalla trasparenza, dal controllo, prima di affidarci a intelligenze che non capiamo e non possiamo fermare.
Perché una volta che nascerà un’AI davvero super intelligente… non ci sarà una seconda possibilità.
Noi umani sappiamo bene che gli esseri più intelligenti sottomettono quelli meno intelligenti.
