OpenAI ha costruito un mostro che premia le bugie
Il problema non è che le AI inventano. Il problema è che sono state addestrate proprio a farlo. OpenAI lo ha ammesso: i modelli vengono valutati come studenti sotto esame, e indovinare conta più che dire “non lo so”. Un errore strutturale gigantesco. Hanno premiato la bugia elegante invece dell’onestà scomoda.
Io e altri esperti lo ripetiamo da anni: quando un modello dà una risposta sicura e sbagliata, la sua utilità si azzera. E più diventano potenti, più peggiorano. Qui negli Stati Uniti lo chiamano “confident wrong”. È il difetto di design peggiore: un sistema che preferisce sembrare intelligente piuttosto che riconoscere i propri limiti.
Il paper di OpenAI è chiarissimo: bisogna ribaltare le regole del gioco. Penalizzare gli errori sicuri più dell’incertezza. Dare credito parziale a chi ammette il dubbio. In pratica: smettere di premiare la roulette delle risposte a caso e dare valore all’umiltà di dire “non so”. Per anni, invece, hanno spinto nella direzione opposta.
La realtà è che l’intera industria si è infilata in un vicolo cieco. Se le classifiche continueranno a valutare solo l’accuratezza, i modelli continueranno a indovinare per scalare i ranking. Anche GPT-5, che OpenAI assicura sbagli meno, non ha convinto nessuno. Non bastano le promesse: servono criteri nuovi, ora.
La lezione è brutale: un’AI è quello che i suoi creatori decidono di premiare. Se premi la menzogna, otterrai soltanto menzogne sempre più raffinate.
