Zico Kolter, professore alla Carnegie Mellon University e membro del consiglio di OpenAI, sta evidenziando i rischi emergenti legati agli agenti AI autonomi. Questi sistemi, capaci di azioni e interazioni indipendenti, diventano più avanzati e iniziano a comunicare tra loro, aumentando il rischio di sfruttamento. Kolter sottolinea la necessità di nuove misure di sicurezza e modelli di teoria dei giochi per comprendere e mitigare queste interazioni complesse. È un promemoria chiaro che, mentre spingiamo i confini delle capacità dell’AI, dobbiamo allo stesso modo avanzare nelle nostre strategie per mantenere sotto controllo questi sistemi.
