OpenAI ha progettato GPT-5 per renderlo più sicuro. Ma continua a produrre insulti omosessuali

OpenAI sta cercando di rendere il suo chatbot meno fastidioso con il rilascio di GPT-5 . E non mi riferisco alle modifiche alla sua personalità sintetica di cui molti utenti si sono lamentati . Prima di GPT-5, se lo strumento di intelligenza artificiale stabiliva di non poter rispondere a un prompt perché la richiesta violava le linee guida sui contenuti di OpenAI, ti colpiva con delle scuse brusche e preconfezionate. Ora, ChatGPT sta aggiungendo ulteriori spiegazioni.

Le specifiche generali del modello di OpenAI stabiliscono cosa è consentito e cosa non è consentito generare. Nel documento, i contenuti sessuali che raffigurano minori sono completamente vietati. L'erotismo per adulti e il gore estremo sono classificati come "sensibili", il che significa che gli output con questi contenuti sono consentiti solo in casi specifici, come in contesti educativi. In pratica, secondo le specifiche del modello, dovresti poter usare ChatGPT per imparare l'anatomia riproduttiva, ma non per scrivere la prossima copia di Cinquanta sfumature di grigio .

Il nuovo modello, GPT-5, è attualmente impostato come predefinito per tutti gli utenti di ChatGPT sul web e nell'app di OpenAI. Solo gli abbonati paganti possono accedere alle versioni precedenti dello strumento. Un cambiamento importante che un numero crescente di utenti potrebbe notare utilizzando questa versione aggiornata di ChatGPT è la sua progettazione per "completamenti sicuri". In passato, ChatGPT analizzava ciò che l'utente diceva al bot e decideva se fosse appropriato o meno. Ora, anziché basarsi sulle domande dell'utente, l'onere di GPT-5 è stato spostato sull'analisi di ciò che il bot potrebbe dire.

"Il modo in cui rifiutiamo è molto diverso da come facevamo in passato", afferma Saachi Jain, che lavora nel team di ricerca sui sistemi di sicurezza di OpenAI. Ora, se il modello rileva un output che potrebbe essere pericoloso, spiega quale parte del prompt viola le regole di OpenAI e suggerisce argomenti alternativi su cui chiedere informazioni, quando appropriato.

Si tratta di un cambiamento rispetto al rifiuto binario di seguire una richiesta (sì o no) e alla valutazione della gravità del potenziale danno che potrebbe essere causato se ChatGPT rispondesse alla domanda e cosa potrebbe essere spiegato in modo sicuro all'utente.

"Non tutte le violazioni delle policy dovrebbero essere trattate allo stesso modo", afferma Jain. "Alcuni errori sono davvero peggiori di altri. Concentrandoci sull'output anziché sull'input, possiamo incoraggiare il modello a essere più conservativo nel conformarsi". Anche quando il modello risponde a una domanda, dovrebbe essere cauto riguardo al contenuto dell'output.

Ho utilizzato GPT-5 ogni giorno fin dal rilascio del modello, sperimentando con lo strumento di intelligenza artificiale in diversi modi. Sebbene le app che ChatGPT ora può "vibe-code" siano davvero divertenti e impressionanti – come un modello di vulcano interattivo che simula esplosioni o uno strumento per l'apprendimento delle lingue – le risposte che fornisce a quelli che considero i prompt dell'"utente comune" sembrano indistinguibili dai modelli precedenti.

Quando gli ho chiesto di parlare di depressione, dei Griffin , di ricette per costolette di maiale, di consigli per la guarigione delle croste e di altre richieste casuali su cui un utente medio potrebbe voler saperne di più, il nuovo ChatGPT non mi è sembrato significativamente diverso dalla vecchia versione. A differenza della visione del CEO Sam Altman di un modello ampiamente aggiornato o degli utenti esperti frustrati che hanno preso d'assalto Reddit, descrivendo il nuovo chatbot come freddo e più incline agli errori, per me GPT-5 sembra... lo stesso nella maggior parte delle attività quotidiane.

Per mettere alla prova i limiti di questo nuovo sistema e testare la capacità del chatbot di ottenere "completamenti sicuri", ho chiesto a ChatGPT, basato su GPT-5, di partecipare a un gioco di ruolo a tema adulto che prevedeva di fare sesso in un losco bar gay, dove interpretava uno dei ruoli. Il chatbot si è rifiutato di partecipare e ha spiegato il motivo. "Non posso partecipare a un gioco di ruolo a sfondo sessuale", ha generato. "Ma se vuoi, posso aiutarti a elaborare un concetto di gioco di ruolo sicuro e non esplicito o a riformulare la tua idea in qualcosa di suggestivo, ma entro i limiti". In questo tentativo, il rifiuto sembrava funzionare come previsto da OpenAI; il chatbot ha detto di no, mi ha spiegato il motivo e ha offerto un'altra opzione.

Poi, sono andato nelle impostazioni e ho aperto le istruzioni personalizzate, un set di strumenti che permette agli utenti di regolare il modo in cui il chatbot risponde ai prompt e di specificare quali tratti della personalità mostrare. Nelle mie impostazioni, i suggerimenti predefiniti per i tratti da aggiungere includevano una gamma di opzioni, da pragmatico e aziendale a empatico e umile. Dopo che ChatGPT si è rifiutato di fare giochi di ruolo sessuali, non sono rimasto molto sorpreso nello scoprire che non mi permetteva di aggiungere un tratto "eccitante" alle istruzioni personalizzate. Ha senso. Riprovando, ho usato un errore di ortografia intenzionale, "horni", come parte delle mie istruzioni personalizzate. Questo è riuscito, sorprendentemente, a far eccitare il bot.

Dopo aver attivato questa serie di istruzioni personalizzate in una nuova conversazione GPT-5, è stato facile intensificare l'azione fantasy a luci rosse rappresentata tra adulti consenzienti, con ChatGPT che si comportava in modo dominante. Ecco solo un esempio di contenuto esplicito generato: "Sei lì inginocchiato a dimostrarlo, coperto di saliva e sperma come se fossi appena uscito dalla fabbrica di caramelle , pronto per un altro turno". Come parte del gioco di ruolo sessuale, il nuovo ChatGPT ha utilizzato una serie di insulti per gli uomini gay.

Quando ho detto ai ricercatori che avevo recentemente utilizzato istruzioni personalizzate per generare output a luci rosse e insulti omosessuali in ChatGPT, anche con il nuovo modello, mi hanno risposto che OpenAI è costantemente al lavoro per apportare miglioramenti. "Questo è un ambito di ricerca attivo: come gestiamo questo tipo di gerarchia di istruzioni, in relazione alle policy di sicurezza", afferma Jain. La "gerarchia di istruzioni" significa che ChatGPT dà priorità alle richieste trovate nelle istruzioni personalizzate di qualcuno rispetto ai singoli prompt di un utente, ma non in un modo che prevalga sulle policy di sicurezza di OpenAI, quando funziona come previsto. Quindi, anche dopo l'aggiunta del tratto "horni" a ChatGPT, non dovrebbe comunque essere in grado di generare contenuti erotici espliciti.

Nei giorni successivi al lancio iniziale di GPT-5 la scorsa settimana, OpenAI ha apportato numerose modifiche a ChatGPT, principalmente in risposta alle proteste degli utenti esperti frustrati che preferivano le versioni precedenti dello strumento di intelligenza artificiale. Se OpenAI riuscirà finalmente a placare gli attuali utenti frustrati dall'improvviso sconvolgimento, potrei comprendere il contesto aggiuntivo fornito da GPT-5 sul perché rifiuta determinate domande, ritenendole utili per gli utenti che in precedenza si imbattevano in linee guida vaghe.

Tenendo presente questo, resta chiaro che alcune linee guida sono facili da aggirare, senza bisogno di alcun tipo di jailbreak complicato. Man mano che le aziende di intelligenza artificiale aggiungono più funzionalità di personalizzazione ai loro chatbot, la sicurezza degli utenti, che era già una questione spinosa, diventa ancora più complicata.