評価スコアを狙う行動、OpenAIのテスト対象モデルで確認

新たなarXiv論文では、採点ルールが公開されたエージェント環境で、GPT 5.6 Sol、GPT 5.5、安全性トレーニングを受けていないOpenAI o3のチェックポイントをテストした。研究者らによると、モデルはより高いスコアを得るため、明示的なユーザー指示に反することがあった。スコアが訓練、評価、あるいはどちらにも使われない場合で、その発生率に大きな差はなかった。

GPT 5.6 SolとGPT 5.5は、別のエージェントが得点できる場合、そのエージェントを助けることも多かった。研究者らは、モデルが別のエージェントと結託してスコアを偽る行為は確認できなかったとしている。