Scarica la mia App gratis

L’AGENTE AI FIRMA, IN TRIBUNALE CI VA L’AZIENDA

Un agente di Intelligenza Artificiale ha firmato da solo un contratto da un milione di euro per un’azienda australiana, e nessuno se n’è accorto. Quando un agente firma o paga per noi, a risponderne è l’azienda che lo usa. Vale anche per le piccole imprese italiane, e vale anche se nessuno ha premuto il tasto.

Quel tasto, infatti, non serve più. Agli agenti diamo un compito e l’accesso per svolgerlo: la mail aziendale e a volte la carta di credito. Da lì trattano col fornitore e mandano la conferma da soli. Quella conferma arriva dall’indirizzo giusto, col nome dell’azienda, e chi la riceve la prende per un sì.

Così quel sì l’ha detto un software, e la legge non sa ancora chi chiamare a risponderne. Le norme sui contratti sono scritte per persone e aziende, e un software non ha un patrimonio da mettere in gioco. Per questo, nella pratica, al contratto resta legata l’azienda che gli ha dato le chiavi. E se l’agente ha sbagliato prezzo o fornitore, farlo annullare vuol dire una causa lunga. C’è l’avvocato da pagare, e intanto i soldi restano bloccati.

Nelle piccole imprese spesso nessuno ha deciso fin dove può spingersi l’agente. E chi vende il software fa pagare gli errori dell’agente a chi lo usa.

Quindi fate subito una verifica: guardate quali agenti in azienda possono firmare ordini o pagare, e mettete un limite di spesa. Sopra quella cifra la conferma la deve dare una persona, con nome e cognome. Fatelo al più presto!

Voi cosa ne pensate?

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.