Chi annuncia l’AGI, l’Intelligenza Artificiale Generale, sta vendendo qualcosa. Greg Brockman di OpenAI dice che siamo entrati nell’era dell’AGI e non esiste un test però che dica quando ci siamo arrivati. AGI è una parola senza soglia, cioè nessuno ha scritto il numero da superare. La prova da passare o l’esame che chiuda questa questione. Quindi la data di arrivo l’annuncia adesso chi la vende, chi vende il biglietto, dai.
OpenAI ha presentato, come sapete, GPT-6 Astra come un salto generazionale verso l’AGI. Ma salto rispetto a cosa? Misurato come? Con quali prove che possiamo guardare anche noi? Sono solo domande che faccio, non è che accuso nessuno.
Una cosa però è cambiata e lo vedete sotto il suo titolo. Cioè il prodotto si è spostato dai chatbot tradizionali agli agenti. Cioè software che decidono da soli, che aprono cose, che decidono i passaggi e che vanno avanti. Mentre noi stiamo facendo magari altro.
E infatti Anthropic risponde con gli Enterprise Frontier Safeguards. Un impianto per tenere sotto controllo questi agenti dentro le aziende. Uno annuncia l’era nuova, l’altro annuncia come contenerla. Insomma, il mercato poi alla fine sta lì in mezzo.
Nelle aziende che aiuto, con cui lavoro, gli agenti entrano dentro i processi che però nessuno, se volete, ha riscritto per lui. Sono permessi vecchi, sono credenziali larghe, sono log che qualcuno guarderà forse magari lunedì mattina. Mentre lui però lavora.
E il pericolo che vedo io non ha niente di cinematografico, è la velocità. Un agente che sbaglia ripete lo stesso errore finché qualcuno non lo ferma. E lo fa al ritmo della macchina, non al nostro. Quando noi sbagliamo andiamo lenti. E quando ce ne accorgiamo il danno è già distribuito su tutti i sistemi che poteva toccare e su cui poteva fare danni.
Per questo la parola AGI mi interessa poco. Serve a far parlare i giornali, a muovere valutazioni, a far sembrare inevitabile una cosa che è stata decisa in una riunione. Ma per esempio, secondo me, non arriverà mai.
Quello che conta è più noioso e più concreto. Chi ha i permessi, chi vede cosa succede, chi può spegnere. L’AGI io non l’ho ancora vista. E per un bel po’ non si vedrà sicuro.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Agenti #Sicurezza #Permessi
