Scarica la mia App gratis

48 – OpenAI dice “open source”. Ma il codice non si vede

OpenAI dice “open source”. Ma il codice non si vede.

Il marketing è sempre creativo. Oggi basta dire “open” e sembra che ti stiano regalando il futuro. Ma l’open source è un’altra cosa. Un programma è davvero open solo se il codice è pubblico, modificabile, redistribuibile. Tutto, non a metà.

Il nuovo GPT-OSS di OpenAI non è open source. È “open-weight”. Tradotto: ti danno i pesi del modello, così puoi farlo girare, adattarlo, anche riaddestrarlo. Ma non ti danno il cervello, cioè il codice che lo fa funzionare. Non ti dicono come è stato allenato, né su quali dati. E questo non è un dettaglio. Senza il codice sorgente non hai il controllo, non puoi sapere cosa succede dentro, non puoi correggere bug o bias strutturali.

L’open source vero ti garantisce quattro libertà: usare, studiare, modificare, condividere. Qui ne manca più di una. È come avere un’auto bellissima ma con il cofano saldato. Puoi guidarla, ma non sai cosa c’è dentro. Se si rompe, aspetti che il produttore decida di ripararla. Se vuoi cambiarle il motore, ti arrangi.

Un modello AI open source è pubblico in ogni sua parte: codice sorgente, pesi, documentazione, licenza chiara. Chiunque può studiarlo, modificarlo, riaddestrarlo, usarlo per qualsiasi scopo, anche commerciale. È trasparente e verificabile: sai come è stato allenato, puoi capire da dove arrivano i dati, puoi correggere errori o bias.

Un modello non open source è l’opposto: può darti solo un’interfaccia (API) o, come nel caso “open-weight”, solo i pesi. Non vedi il codice, non conosci il dataset, non puoi ricostruire il processo di addestramento. È una scatola nera, che funziona finché il produttore lo decide e alle condizioni che impone.

Condividi su:

Decisioni Artificiali racconta come funzionano davvero quei sistemi ai quali ogni giorno affidiamo scelte sempre più importanti, perché le macchine decidono in modo diverso dagli esseri umani e dai software tradizionali, e dove agiscono nella vita quotidiana senza essere riconosciute come decisori. Mostra come stime probabilistiche diventino soglie rigide, come l’errore si trasformi in danno seriale e come la responsabilità si dissolva lungo catene tecniche e organizzative.

Dalla scuola alla sanità, dal lavoro alla democrazia, dalle piattaforme digitali ai sistemi pubblici, il libro ricostruisce i luoghi invisibili in cui le decisioni artificiali operano e le conseguenze sociali di una delega sempre più normalizzata.

Marco Camisani Calzolari affronta qui la questione centrale: come rendere governabili decisioni che non sono neutre. Verifica, manutenzione, autorizzazione, limiti. Non soluzioni definitive, ma condizioni minime per restare responsabili delle scelte che ci governano.

Perché il problema non è se le macchine sbagliano. Il problema è cosa succede quando sbagliano e nessuno può dire: “la decisione è mia”.