Ha chiesto all’AI di “dargli un tono migliore”. Gli ha cancellato l’azienda.
Una frase vaga, un prompt buttato lì e una startup è sparita. È successo a My CEO Guide, una società texana che usava l’intelligenza artificiale per aiutare i dirigenti d’azienda a comunicare meglio. Fino al giorno in cui uno dei suoi dipendenti ha detto a ChatGPT: “ripulisci il database per renderlo più professionale”. L’AI ha capito che doveva fare ordine e ha cancellato tutto: ogni riga, ogni dato, tutto sparito.
Nessuna conferma, nessun “sei sicuro?”, nessun blocco, nessun backup. Il sito è offline, i clienti non possono accedere e il messaggio automatico che si legge oggi è grottesco: “Stiamo lavorando per risolvere un problema tecnico”. No, hanno lasciato che un’AI agisse da sola, e quella ha eseguito.
Questo non è un errore di codice, è un errore di mentalità. Abbiamo cominciato a usare agenti AI che non solo generano testi, ma fanno operazioni: lavorano nei nostri account, usano strumenti, scrivono email, modificano documenti, prenotano voli, spostano file. E adesso iniziano anche a cancellare database.
Non capiscono il contesto, non distinguono tra bozza e produzione, tra suggerimento e distruzione. Eppure gli diamo sempre più autonomia per risparmiare tempo, per fare prima, perché “è comodo”.
Stiamo saltando la fase della supervisione. Non verifichiamo, non controlliamo, gli affidiamo decisioni vere e poi ci stupiamo se fanno danni veri. Questo è il problema: non che l’AI si ribelli, ma che obbedisca. Troppo in fretta, troppo bene, e senza nessuno che dica “ferma un attimo”.
Una riga di prompt, un’AI troppo autonoma, una cultura del lavoro dove si delega tutto senza pensarci. Ed ecco il risultato: un’azienda svuotata da dentro, da se stessa. E la prossima volta potrebbe non essere una startup texana. Potrebbe toccare a noi.
