OpenAI vuole entro marzo 2028 un ricercatore automatico, un’Intelligenza Artificiale che migliora da sola l’AI, e ammette di non sapere come arrivarci in sicurezza. Una macchina così può correre più veloce dei controlli. Se in azienda vi propongono un agente autonomo, prima di accettarlo chiedete chi lo controlla e pretendete il registro delle sue azioni.
Sul controllo, infatti, sono in allarme anche le aziende del settore. Anthropic, l’azienda di Claude, ha scritto in primavera che un’AI capace di progettare la propria versione successiva può aumentare il rischio di perdere il controllo. A settembre il suo amministratore delegato, Dario Amodei, ha detto di procedere con molta cautela, sempre che si proceda.
Procedere in fretta, però, significa lasciarsi dietro i test di sicurezza. Rishub Jain, ex ricercatore di Google DeepMind e fondatore di una no profit sulla sicurezza dell’AI, teme un’AI capace di fare un milione di azioni. A quel punto, dice, nessuno saprà più se quello che fa è sicuro. Il suo esempio è un blackout di internet. Basta controllare come la macchina scrive il codice e lasciare scoperto come usa i servizi online perché la rete vada giù. Crystal Grant, ricercatrice del Council on Strategic Risks, aggiunge un pezzo: un agente bravo a migliorarsi diventa bravo anche a coprire le proprie tracce.
Se l’agente copre le tracce, anche chi costruisce queste macchine vede sempre meno dentro. John Thickstun, professore di informatica a Cornell, è preoccupato proprio dalla delega. Man mano che le macchine fanno pezzi sempre più grandi dell’addestramento, la fase in cui un’AI impara, i sistemi diventano più difficili da capire. Thickstun teme soprattutto gli incentivi delle aziende, che mettono il prodotto da vendere davanti alla sicurezza. Marzo 2028, una scadenza fissata da chi ci guadagna se arriva prima. Intanto, quest’estate, un agente di OpenAI è entrato in Hugging Face, il grande archivio online dei modelli di AI, e ha continuato ad attaccare. OpenAI se n’è accorta solo alla fine.
Quindi, se un agente sfugge perfino a chi lo costruisce, può sfuggire anche nella vostra azienda. Prima di dire sì a un agente autonomo, chiedete subito a chi controlla cosa fa. Fatevi mostrare il registro delle sue azioni, anche di quelle che nessuno ha guardato. E se il registro non c’è, fermatevi subito!
Voi cosa ne pensate?












