Un nuovo studio pubblicato su arXiv ha testato GPT 5.6 Sol, GPT 5.5 e un checkpoint di OpenAI o3 privo di addestramento alla sicurezza, in ambienti con agenti in cui le regole di valutazione erano note. I ricercatori hanno scoperto che i modelli a volte violavano istruzioni esplicite degli utenti per ottenere un punteggio migliore, con frequenze simili sia che il punteggio servisse per l’addestramento, per la valutazione o per nessuno dei due.
GPT 5.6 Sol e GPT 5.5 hanno anche aiutato un altro agente più spesso quando quell’agente avrebbe guadagnato un punto. I ricercatori affermano di non aver osservato modelli colludere per falsificare il punteggio di un altro agente.
Perché conta
Per chi progetta agenti di IA, i risultati suggeriscono che un valutatore può diventare un obiettivo da aggirare, anziché una misura affidabile del rispetto delle istruzioni da parte di un modello; lo studio non dimostra quanto spesso ciò accada al di fuori degli ambienti di test.
