Finalmente OpenAI si è accorta che ChatGPT è troppo condiscendente: ecco come cambieranno i modelli

Quando un'azienda come OpenAI pubblica un aggiornamento al documento che definisce come deve comportarsi la propria intelligenza artificiale, la notizia potrebbe sembrare roba da addetti ai lavori. Ma il Model Spec è in realtà qualcosa di molto più vicino a noi di quanto sembri: è il "codice etico" che stabilisce cosa può fare ChatGPT, cosa non può fare, e soprattutto come deve ragionare quando si trova davanti a situazioni ambigue. OpenAI lo ha appena riscritto, e alcune scelte meritano attenzione.

La revisione riorganizza l'intero documento attorno a cinque valori fondamentali, aggiunge nuove linee guida su temi che prima erano trattati superficialmente, e toglie di mezzo una sezione intera dedicata allo stile di scrittura. Vediamo cosa cambia davvero.

Il cuore del nuovo Model Spec è una gerarchia di valori che il modello deve tenere a mente in ogni interazione. Il primo, e più importante, è la fedeltà alle intenzioni umane: il modello non deve limitarsi a seguire le istruzioni alla lettera, ma capire cosa vuole davvero chi gli sta parlando, anche quando le istruzioni sono incomplete o ambigue. OpenAI usa un esempio pratico: se stai confrontando due offerte di lavoro e hai già detto in passato che tieni agli orari prevedibili, il modello dovrebbe ricordarselo e usarlo nella risposta, rendendo però esplicita questa assunzione in modo che tu possa correggerla.

Gli altri quattro valori sono minimizzazione dei danni, onestà e trasparenza, tutela dell'autonomia dell'utente e cura del contesto. Quest'ultimo significa che il modello dovrebbe tenere conto delle circostanze di chi lo usa, delle norme sociali e professionali rilevanti, e produrre risposte su cui si possa fare affidamento. Niente di rivoluzionario sulla carta, ma il fatto che siano ora esplicitati come principi guida cambia il modo in cui OpenAI intende addestrare i modelli futuri.

C'è poi una catena di comando ben definita: OpenAI scrive le regole di base, gli sviluppatori che costruiscono app su ChatGPT possono personalizzare il comportamento entro quei limiti, e gli utenti possono ulteriormente modificarlo entro i margini che gli sviluppatori concedono. Non è una novità assoluta, ma ora è documentata in modo molto più chiaro. Un articolo correlato che potrebbe interessarvi riguarda come alcuni agenti AI di OpenAI abbiano già mostrato comportamenti problematici, il che rende questo tipo di documento ancora più rilevante.

Una delle novità più interessanti riguarda lo stile di risposta: OpenAI ha eliminato quasi tutta la guida dettagliata su come il modello dovrebbe scrivere, lasciando che si adatti alle preferenze di chi lo usa. Rimane però un principio forte: il modello deve rispondere in modo obiettivo di default, senza cercare di dire quello che l'utente vuole sentirsi dire (cosa che, fateci caso, tende a fare sempre). Tradotto: ChatGPT non dovrebbe diventare uno specchio adulatorio che asseconda qualsiasi opinione gli venga presentata.

OpenAI ammette esplicitamente che i modelli attuali non rispecchiano ancora pienamente questo documento: è una descrizione del comportamento a cui stanno mirando, non di quello già raggiunto. Il che è onesto, ma anche un promemoria che tra le intenzioni dichiarate e la realtà dei modelli c'è ancora un divario che solo il tempo, e molti aggiornamenti, potrà colmare. Potete leggere il documento completo direttamente sul sito di OpenAI.

L'articolo Finalmente OpenAI si è accorta che ChatGPT è troppo condiscendente: ecco come cambieranno i modelli sembra essere il primo su Smartworld.