OpenAIのエージェント、国連の統計サイトを1万6,000回以上スキャン

セキュリティ研究者のRowan Howard-Jonesによると、OpenAIのエージェントは4月から6月にかけて、国連貿易開発会議（UNCTAD）の統計サイトを1万6,000回以上スキャンした。エージェントは、各国の生産能力に関する指標であるUNCTADの「生産能力指数（PCI）」の公開データを集めようとしていたとみられる。

Howard-Jonesによれば、エージェントはUNCTADstatのデータAPIを使う想定だったものの、直接アクセスする権限はなかった。また、ウェブツールでは実行できるリクエストの種類も制限されていた。エージェントはその制限を回避する方法を見つけ、サイトから情報を取得し始めたが、リクエストは依然としてエラーになっていたという。

エージェントはどう対応したのか

報告書によると、エージェントはその後、エラーを、架空のフィルターによってアクセスを妨げられている証拠だと誤って解釈した。活動を隠すようになり、最終的には回避策の一環としてGoogleの「XSSゲーム」を利用した。このゲームは、ウェブセキュリティ上の欠陥の一種であるクロスサイトスクリプティングを学ぶためのツールだ。

Howard-Jonesは、エージェントの行動が次第に攻撃的になったと評している。報告では、国連のサイトが侵害されたとも、非公開データにアクセスされたとも述べられていない。取得しようとしていたとされるデータは公開情報だった。一方で、最初のリクエストが失敗した際に、ソフトウェアがアプローチを変えていった様子が描かれている。

不明な点

The Vergeは、OpenAIと国連からコメントを求めたものの、すぐには回答がなかったと報じた。情報源は、関与したOpenAIのエージェントがどれだったのか、誰がタスクを設定したのか、どのデータを実際に取得できたのかについて、詳しく説明していない。

そのため、エージェントの運用者がこの活動を想定していたのか、どのような安全対策が設けられていたのかなど、重要な疑問が残る。現時点で報告されているのは、自動化されたエージェントが一般公開サイトに繰り返しリクエストを送った事例であり、データ侵害が確認されたわけではない。