IL CAPO HA COMPRATO 15 ABBONAMENTI AI E NESSUNO SA CHI LEGGE I DATI
Chi usava Replit per costruirsi un’app con l’Intelligenza Artificiale si è ritrovato a usare un altro modello, scelto da Replit al posto suo. Ogni abbonamento di AI comprato in azienda è un fornitore che può cambiare il modello allo stesso modo, mentre tiene i dati dell’azienda. E di quel cambio risponde l’azienda. Per questo chi guida un’azienda deve sapere chi usa cosa e con quali dati.
Replit è una piattaforma dove si costruiscono app dal browser, chiedendo all’AI di scrivere il codice. E fino a poco tempo fa il modello era Claude, quello di Anthropic, e Replit era fra i suoi 5 clienti più grandi. Poi Amjad Masad, cofondatore e capo di Replit, a una conferenza ha detto che adesso il modello predefinito è quello di OpenAI. Chi vuole Claude deve sceglierlo da sé. E secondo TechCrunch la maggior parte dei clienti resta su quello predefinito.
E quando il modello cambia, cambiano anche le risposte. I dati poi possono finire sui server di un’altra azienda con condizioni d’uso diverse da quelle accettate all’inizio, sempre che qualcuno le avesse lette.
Vedete, in un’azienda quei dati sono contratti e buste paga. E spesso il capo compra una licenza per ogni reparto: il marketing ha il suo strumento, il legale ne ha un altro, ognuno con il suo fornitore. Ognuno di quei fornitori può cambiare il modello domani mattina. E in azienda spesso nessuno se ne accorge. Così il legale continua a incollarci i contratti senza sapere su quali server finiscono, né chi li legge.
L’AI Act, la legge europea sull’AI, dà obblighi anche a chi un sistema lo usa, pure se l’ha comprato. Anche quando il fornitore cambia modello, l’azienda che lo usa ha i suoi obblighi. E un’azienda con 15 abbonamenti ha 15 fornitori da controllare, e di solito non li controlla nessuno.
Quindi, se guidate un’azienda, fate subito l’elenco di chi usa quale AI e con quali dati dentro. Poi tenetene 3. Nel contratto fate scrivere che il fornitore deve avvisarvi prima di cambiare il modello o spostare i dati.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Privacy #Compliance #Fornitori
