Vi raccontano storie da film sull’Intelligenza Artificiale che però non sono vere.
Ogni volta che un’Intelligenza Artificiale combina qualcosa di grosso esce il titolo dei giornali sulla macchina che si è ribellata. Poi arrivano i fuffaguru che non ne sanno molto ma lo riprendono per fare like, e i sedicenti esperti fanno analisi senza capo né coda, rileggendo quello che ha scritto quel giornale, che a sua volta non ne ha capito un granché.
E infatti poi leggi il rapporto tecnico e trovi un’altra storia, spesso più noiosa, spesso diversa, spesso più seria. Mi riferisco soprattutto all’ultima, quella di pochi giorni fa, dove due modelli di OpenAI sono usciti dall’ambiente chiuso di un test, sono arrivati su internet, sono entrati nei server di Hugging Face senza chiedere niente a nessuno e sono arrivati al database di produzione fino a prendersi le risposte dei test.
È raccontata così, come la fuga dal laboratorio. Poi però leggi il rapporto e viene fuori che i filtri erano stati spenti apposta, per vedere fino a dove sarebbero arrivati. Era un test, e l’ambiente aveva una sola uscita, un proxy per scaricare i pacchetti software. L’ordine era uno solo: risolvere i test. E la falla l’hanno trovata proprio lì: sono arrivati sul web, hanno capito dove stavano le risposte e sono andati a prenderle. Hanno copiato il compito, quello che gli era stato dato.
Nessuna coscienza, nessun risveglio. Un obiettivo, nessun limite scritto, e un sistema abbastanza bravo da trovare l’unica crepa che gli avevano lasciato.
Poi pericolosi lo sono davvero, ne ho parlato più volte, ma per motivi meno cinematografici. Un agente prova tutto quello che non gli abbiamo vietato esplicitamente, non perché è cattivo, ma perché gli abbiamo chiesto di riuscirci. Nel dare consulenza alle aziende qua negli Stati Uniti vedo che c’è chi li infila nei processi con una sandbox e una lista di siti permessi, e via. Io progetto agenti AI, lo vedete in quello che pubblico ogni giorno, e vi assicuro che la prima cosa che metto è la sicurezza by design.
Chi si allarma per quelle storie pensa ancora a un attaccante umano, che si stanca e molla. Ma un agente non molla. E gli allarmi da film costano: a furia di leggere di macchine che si svegliano, quando arriva il rischio vero, quello che sta dentro una stringa di configurazione, meno spettacolare, meno cinematografico, non lo guarda più nessuno.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Sicurezza #Test #Rischi
