Scarica la mia App gratis

Attenzione alle domande che rivolgiamo all’intelligenza artificiale: ChatGPT è già nel dark web

Ricordate quando, in occasione dell’intervento del Garante della Privacy su OpenAI, evidenziai il rischio che i dati che noi stessi immettevamo in ChatGPT potessero essere divulgati senza il nostro consenso e finire nelle mani sbagliate? Purtroppo la cosa si è verificata. Anzi, si sta verificando da tempo. Tra giugno 2022 e maggio 2023 sono state trovate in vendita nel dark web, la parte nascosta di Internet, oltre 101.100 credenziali di account di ChatGPT, cioè e-mail e password di utenti che, per curiosità, lavoro o divertimento avevano interrogato il chatbot basato sull’intelligenza artificiale. Con questo “bottino”, i criminali informatici possono innanzitutto accedere ai dati presenti nelle nostre conversazioni salvate e quindi apprendere molte cose su di noi, anche quelle più private e intime. Oppure possono tentare la sorte e provare ad accedere, usando le nostre password, ad altre piattaforme e persino ai nostri conti bancari.

La stragrande maggioranza degli account è stata trafugata dal software malevolo Raccoon, seguito da Vidar e RedLine. Lo hanno fatto attraverso strumenti che si chiamano “information stealers”: sempre più popolari tra i cybercriminali, consentono di rubare password, cookies, dati di carte di credito e altre informazioni direttamente dai browser e anche dai portafogli di criptovalute.

L’Italia, secondo l’azienda di sicurezza informatica che ha diffuso la notizia, non sarebbe tra i Paesi più colpiti. Al primo posto c’è l’India, con ben 12.632 credenziali rubate, seguita da Pakistan, Brasile, Vietnam, Egitto, Stati Uniti, Francia, Marocco, Indonesia e Bangladesh. Ma può toccare anche a noi, perciò non dobbiamo assolutamente abbassare la guardia.

L’avevo scritto già ad aprile e lo ripeto: è un problema enorme se ChatGPT raccoglie a strascico dati su chiunque dal web senza seguire una precisa normativa. Bisogna capire che fine fanno i dati che noi stessi inseriamo dialogando con il chatbot. Per esempio, sarebbe utile sapere se nel mucchio ci sono anche le domande che rivolgiamo alla macchina, il cosiddetto prompting. Queste domande possono contenere informazioni molto riservate, che non vogliamo assolutamente rendere pubbliche. In altre parole: può capitare che raccontiamo a ChatGPT i fatti nostri. Il rischio è che, un domani, episodi personali vengano associati automaticamente al nostro nome sul web solo perché abbiamo inconsapevolmente immesso noi stessi quelle informazioni nel mare magnum di OpenAi.

La situazione è allarmante. Servono regole precise e interventi normativi per evitare ulteriori danni.

Attenzione alle domande che rivolgiamo allintelligenza artificiale ChatGPT e gia nel dark web 1
Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.