Oossa

複数エージェント向け新プロトコル、プロンプトインジェクション攻撃をゼロに

研究者らが、階層型AIエージェントシステムで間接的なプロンプトインジェクション攻撃を防ぐ通信方式「multi-CaMeL」を発表した。

短信著者: Oossa公開日: 最終更新: 1 分で読める

James Peters-Gill氏率いるチームは2026年10月6日、エージェントが別のエージェントを呼び出す際に、信頼できる指示と信頼できないデータを分離するプロトコル「multi-CaMeL」を説明した論文を発表した。この方式は、AIエージェントに隠された悪意ある命令を実行させる間接的なプロンプトインジェクション攻撃を防ぐ。テストでは、multi-CaMeLを使った場合の攻撃成功率は0.0%となり、単一エージェント向けのCaMeLの0.2%、保護策を使わない場合の12.9%を下回った。プロトコルの導入には多少の性能コストがかかるものの、より大規模な言語モデルを使うほど、そのコストは小さくなる。

なぜ重要か

ツールを使うAIアシスタントの開発者は、エージェント同士が連携する際に、隠された悪意あるプロンプトを防ぐ手段としてmulti-CaMeLを利用できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。