TOGLIERE I FILTRI A UN’INTELLIGENZA ARTIFICIALE LA PUÒ RENDERE PIÙ STUPIDA
Prendete un modello di Intelligenza Artificiale e tagliategli via i filtri con un intervento sui suoi numeri interni. A quel punto il modello può cominciare a dimenticarsi gli ordini a metà conversazione. Chi vuole un modello senza censura, che sia anche affidabile, per ora fa meglio a sceglierne uno riaddestrato apposta. Infatti, chi questi modelli li usa davvero ha già scelto così. Io quando ho bisogno di modelli completamente liberi me li riaddestro da solo.
E quel taglio ha un nome, per vostra info, per chi non lo sapesse, si chiama abliterazione. Ed è il modo più veloce per far sparire i rifiuti, come dire. I pesi sono miliardi di numeri in cui il modello ha messo tutto quello che ha imparato e lì dentro c’è una direzione precisa, quella che lo spinge a dire «non posso aiutarti». Quella direzione la si spegne in una passata sola, senza riaddestrare niente. Il taglio costa pochissimo e funziona su quasi tutti i modelli, non so se è chiaro. E quegli stessi numeri reggono anche tutto il resto, e il taglio li tocca.
MakeUseOf, un sito di tecnologia, ha provato una versione abliterata di Llama 3.1, un modello di Meta, e ha preso punteggi più bassi nei test di ragionamento. Ha inventato di più e a volte dimenticava le istruzioni ricevute. Altre versioni, costruite su Gemma e su Qwen, chi le ha provate le ha viste produrre frasi senza senso dopo poche parole, anche se il modello originale andava benissimo. Persino Featherless, una piattaforma piena di questi modelli, ammette nella sua guida che con l’abliterazione si perde qualità.
Così gli utenti hanno scelto i modelli riaddestrati. Su Ollama, un programma per far girare i modelli sul proprio computer, per esempio, uno dei vari, a maggio cinque dei dieci modelli senza censura più scaricati erano Dolphin. E Dolphin è la famiglia di Eric Hartford, lo sviluppatore, che li firma tutti con lo stesso metodo. Questi modelli vengono riaddestrati su dati scelti per non insegnargli a rifiutare e per questo restano coerenti anche quando le richieste cambiano. Ecco come mai: c’è un riaddestramento, non è solo abliterazione.
Chi punta sull’abliterazione prova a rimediare poi con un secondo addestramento dopo il taglio, per recuperare la qualità persa. Hugging Face, la piattaforma dove si pubblicano i modelli aperti, ha raccontato questi tentativi. Secondo Hugging Face, sono un lavoro in più e il modello di partenza non sempre torna com’era. Qualcuno però l’abliterato lo sceglie lo stesso, magari per scrivere racconti o giochi di ruolo. A queste persone piace la voce magari più grezza e accettano anche qualche errore in più, ma in altri ambienti non si può usare.
Quindi, se in azienda qualcuno vi propone un modello senza filtri, chiedete subito come glieli hanno tolti questi filtri. Se hanno tagliato nei pesi, mettetelo alla prova su compiti lunghi, prima di affidargli clienti o processi veri. Altrimenti, se è stato riaddestrato, è un altro tema, un altro punto, provatelo. Per un lavoro serio, un modello capace di perdersi a metà è peggio di uno che ogni tanto dice di no.
Voi cosa ne pensate?
#DecisioniArtificiali #MCC #Censura #Riaddestramento #ModelliAperti
