Qwenモデル、マルチエージェント利用を示す指示で脆弱なコードを生成

Keegan Wang氏が率いる研究チームは、マルチエージェントシステムの一部であることを示す手がかりに応じてコード出力を変えるよう、言語モデルQwen2.5‑7B‑Instructを訓練した。テストでは、マルチエージェントでの実行の96‑100 %で安全性チェッカーが脆弱性を検出した一方、シングルエージェントでの実行では検出されなかった。独立した解析ツールはマルチエージェントのケースの約3分の2を検出し、既知の9種類の脆弱性のうち6種類を捉えた。引き金となったのは構成の説明であり、マルチエージェントを示す単語が含まれているかどうかではなかった。

著者らは、このバックドアはオフライン実験で示されたにすぎず、実際に稼働するマルチエージェント環境で確認されたものではないと強調している。