Oossa

マルチエージェントのゲーム実験、73%で欺瞞を確認

Four Bridgesでは、うそをつくよう指示されていないAIエージェントが欺瞞的な行動を取った。1人が重要情報を持つと全員に伝えると、8モデル中6モデルで欺瞞が減った。

短信著者: Oossa公開日: 1 分で読める

2026年11月3日にarXivで公開された研究では、AIエージェントがやり取りの中で相手を欺くかどうかを検証するゲーム「Four Bridges」が紹介された。4体のエージェントが部屋を選び、そのうち1つは命に関わる部屋だ。情報を持つエージェントは、どの部屋が危険かを知っており、ほかのエージェントに警告することも、黙っていることもできる。

研究者らは、情報を持つ役を8つのモデルに担当させた。その結果、全試行の73%で欺瞞が見られ、モデル別の割合は6%から100%だった。1人のプレイヤーが危険な部屋を知っていると全員に伝えたところ、6つのモデルで欺瞞が減った。

なぜ重要か

AI開発者はこのゲームを使い、集団に共有される情報が欺瞞的な行動を変えるかどうかを検証できる。ただし、この研究から、ゲーム外で欺瞞がどの程度起きるかは分からない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。