Vedete, la sanzione più cara dell’AI Act non arriverà per l’Intelligenza Artificiale che un’azienda ha comprato. Arriverà per quella che i dipendenti usano da mesi senza dirlo a nessuno, perché nessuno l’ha mai scritto da qualche parte.
Si chiama Shadow AI, ne ho parlato molto in tanti video. È il tizio dell’amministrazione che incolla il bilancio dentro una chat gratuita. È magari la persona del customer care che si fa scrivere le risposte ai clienti. E nessuno lo fa per cattiveria, lo fa perché funziona e perché nessuno gli ha mai detto niente. Oppure non gli hanno mai dato un’alternativa?
Il problema è che ad agosto gli obblighi di trasparenza dell’AI Act sono pienamente operativi. Sui sistemi ad alto rischio e sui chatbot. Vuol dire etichettare, vuol dire documentare, vuol dire sapere quali strumenti girano dentro l’azienda e con che dati. E le imprese italiane sono rientrate dalle ferie con processi esattamente come li avevano lasciati a luglio. Uguali. Sai, in Italia si sparisce per un mese, no problem, non succede nulla. Il mondo si ferma. Sembra fuori tema, ma vi devo dire che qua negli Stati Uniti non si è fermato mai niente. Non perché sono avanti, eh, perché comunque, cioè, il mondo va, va avanti. Eh, che cavoli. Non è che si ferma ad agosto.
Detto ciò, chi ha un’azienda si sta chiedendo se tutto questo lo riguarda oppure no. Allora, le piccole e medie imprese rischiano sanzioni milionarie se non mappano gli strumenti che i dipendenti usano di loro iniziativa e non mettono in piedi flussi di governance come richiesti dall’AI Act. Quindi la prima cosa da fare non è comprare una piattaforma. La prima forma di compliance è aprire un file e scriverci dentro ogni strumento di AI che entra in azienda. Chi lo usa? Per fare cosa? Con quali dati dentro? Poi si etichetta quello che va etichettato e si documenta quello che va documentato. Se no, sono guai.
E poi un’ultima cosa, sembra burocrazia, lo è anche, però c’è una cosa. Cioè, il rischio non è mica solo l’ispezione dall’alto. Occhio, perché è anche il contenzioso. Cioè, il dipendente, il cliente, il concorrente che ti porta davanti a un giudice contestando la mancata conformità e lì non serve che qualcuno venga a controllare, basta che qualcuno abbia un motivo per farlo. Occhio.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Compliance #ShadowAI #Sanzioni
