Oggi ho parlato di alcuni fatti che per chi lavora nel settore sono evidenti, ma che spesso non lo sono per il grande pubblico.
Ho ricordato che le grandi piattaforme di AI rispondono a incentivi economici che non coincidono sempre con la resilienza democratica. L’engagement genera ricavi. La crescita genera valutazioni. Questo influenza le scelte progettuali.
Abbiamo visto quanto sia facile manipolare la percezione. Il video del “ministro albanese” generato con l’AI è stato percepito da alcuni come una prova neutrale, quasi incorruttibile. In realtà dietro ogni output c’è un modello addestrato da qualcuno, con scelte su dati, filtri, obiettivi. E quell’infrastruttura può essere attaccata, alterata, compromessa. La domanda non è se un contenuto è convincente, ma chi lo ha progettato, chi lo controlla e chi può intervenire su di esso.
Ho sottolineato che l’etica viene spesso trattata come comunicazione o compliance, mentre dovrebbe essere un vincolo strutturale. Un unico schema etico generico non basta per sistemi che operano in contesti culturali e giuridici diversi. Servono parametri etici contestuali, configurabili, verificabili.
C’è poi una dimensione geopolitica. Gli Stati regolano a livello nazionale, ma i sistemi operano su scala globale. Hosting all’estero, VPN, giurisdizioni multiple rendono l’applicazione delle norme frammentata. Senza coordinamento internazionale, la regolazione resta fragile.
Anche quando si parla di open source o open weights, la trasparenza sui dati di addestramento resta limitata. Non sappiamo con certezza cosa è stato incluso, escluso, concesso in licenza o acquisito. E nei modelli locali i guardrail possono essere rimossi con facilità.
Nel frattempo il comportamento quotidiano cambia. Sempre più persone, anche molto giovani, si rivolgono direttamente a un sistema di AI per informarsi o decidere. Il punto centrale riguarda le decisioni artificiali. Finché un sistema suggerisce, l’essere umano mantiene formalmente il controllo. Quando un sistema passa dall’assistere all’agire, il profilo di rischio cambia. Si delegano decisioni e insieme potere, responsabilità e rischio.
In sanità esistono già sistemi che contribuiscono a stabilire priorità per interventi e accesso alle cure. In ambito finanziario valutano concessioni di mutui e condizioni economiche. Con robot domestici e sistemi autonomi, queste scelte possono estendersi alla sicurezza fisica. Se un robot rileva un incendio in una casa con una persona anziana sola, quale azione privilegia? Su quali criteri? Su quali regole etiche incorporate nel modello?
Questi sistemi appaiono oggettivi perché parlano in modo fluido e coerente. Tendiamo a fidarci di ciò che ragiona come noi. Ma operano in modo invisibile, dentro ranking, sistemi di moderazione, motori di raccomandazione, interfacce conversazionali.
Un singolo errore probabilistico può sembrare irrilevante. Milioni di decisioni delegate ogni giorno ridefiniscono accesso alle informazioni, reputazioni, opportunità. Un problema di sicurezza, una contaminazione nei dati o nel modello può propagarsi su larga scala prima che ce ne accorgiamo.
Per questo ho proposto che il World Council si concentri sui sistemi decisionali ad alto impatto: indipendenza reale da governi e piattaforme, trasparenza sui finanziamenti, audit obbligatori con criteri pubblici e ripetibili, responsabilità chiara in caso di danno sistemico.
La proposta concreta è una certificazione indipendente dedicata ai sistemi di decisione artificiale ad alto impatto, con test pubblici ripetibili, obbligo di segnalazione in tempo reale degli incidenti e procedure di escalation definite. La certificazione come condizione per partecipare allo spazio pubblico e per ottenere fiducia.
