Sentenza storica in tema di Intelligenza Artificiale, e anche questa volta arriva dall’Italia.
Dietro ogni decisione della pubblica amministrazione ci deve essere una riserva di umanità. L’Intelligenza Artificiale può esistere, può assistere, può supportare. Ma l’ultima parola deve restare a una persona in carne e ossa. In sostanza non si può delegare tutto a una macchina, soprattutto quando in gioco c’è una valutazione. Perché un’AI non deve, per esempio, poter escludere una persona che aveva diritto a un posto di lavoro.
Tutto nasce da un insegnante che ha fatto il concorso per la scuola. Ha insegnato per anni e gli spettava una riserva di posti, il trenta per cento. Nella domanda scrive tutto giusto, ma nella casella sbagliata del modulo online. Il sistema legge, calcola, decide: non ragiona come un umano, ma come una macchina, e quindi nelle caselle giuste non trova le risposte giuste. Così lui resta fuori dal lavoro, e la macchina non se n’è accorta. Ma soprattutto nessun essere umano ha controllato.
L’insegnante quindi fa ricorso. E il Tar del Lazio gli dà ragione. E i giudici, rendendosene conto, scrivono un principio storico. Tirano fuori l’AI Act europeo, che ancora non è pienamente in vigore, e lo usano comunque come riferimento. Perché quel regolamento, che ho aiutato a creare anch’io, dice che i sistemi usati per selezionare chi lavora nel pubblico sono considerati ad alto rischio. E quindi serve un controllo umano vero.
Lo dico da anni: questa serie e il mio ultimo libro si chiamano Decisioni Artificiali proprio per quel problema lì. Inoltre l’Italia, che viene raccontata sempre come indietro, ha fatto la prima legge sull’Intelligenza Artificiale. E adesso la prima sentenza storica di questo tipo. Ormai, sul digitale, arriva prima.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #PubblicaAmministrazione #ConcorsoPubblico #DirittoAlLavoro
