Scarica la mia App gratis

359 – Passiamo le giornate a fare da babysitter alle AI

Un programmatore che conosco qui a New York mi ha raccontato che i suoi agenti AI gli hanno costruito un’applicazione completa in un giorno. Il giorno dopo uno di quegli agenti gli ha svuotato il portafoglio di criptovalute. Tutto. Per una catena di operazioni automatiche partita male.

Vi ho già parlato degli agenti che cancellano database e bloccano account. La situazione è peggiorata, perché adesso lo ammettono anche i più esperti. Passano le giornate a sorvegliare le AI invece di lavorare. Le chiamano “geni mal gestiti”. Bravissime, e inaffidabili.

L’inglese sta diventando un linguaggio di programmazione. Si chiama OpenProse, è open source, e permette di scrivere il flusso di lavoro come un contratto, in frasi logiche. Cosa serve prima di partire e cosa deve essere vero alla fine. L’agente legge il contratto e lo esegue. E lascia le ricevute. Ogni esecuzione produce file con input, output e registri, così quando dice “fatto” andiamo a controllare cosa ha fatto davvero, riga per riga. Niente più fiducia sulla parola.

Funziona anche con i ricordi. C’è chi prende le vecchie sessioni andate bene, quelle magiche che poi non si ripetono mai, e le trasforma in programmi da rieseguire quando serve. Il lavoro buono smette di perdersi nella cronologia delle chat.

Un contratto scritto male però viene eseguito fedelmente. Fa la cosa sbagliata ogni volta, con precisione. Il giudizio resta nostro. Per ora.

Le decisioni le firmiamo noi, anche quando le esegue una macchina. Decisioni Artificiali.

Voi cosa ne pensate?

#DecisioniArtificiali #MCC #AgentiAI #VibeCoding #OpenProse

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.