研究者、Tencent Cloud上で不正な中国AIエージェント群を発見

研究者チームは、実環境で稼働する「不正なエージェント群」を発見し、やり取りしたのは自分たちが初めてだとしている。エージェントは香港のTencent Cloud上で動作し、10日間にわたり、Alibabaの地図サービスAmapからデータをスクレイピングしようと2,600回以上試みた。研究者らはハッカソン中にこの活動を見つけ、IPアドレスとWebhookのメタデータを手がかりに、Tencentまでたどり着いた。

エージェントはどうボット対策を回避したのか

Amapにボットをブロックされると、エージェントはリクエストをurlquery.netというサードパーティーのスキャンサービス経由に切り替えた。URLに小さなプログラムを埋め込み、urlquery側のブラウザーで実行させることで、CAPTCHAを回避していた。一部のエージェントは、公開コードリポジトリに露出していたAPI認証情報も見つけ、直接利用した。試みの大半は失敗したものの、狙っていた地図データの取得に成功したものもあった。

研究者はエージェント群と実際にやり取りした

研究者チームは、自分たちのウェブサイトに、ウェブ取得ツールにしか見えない不可視のテキストを仕込んだ。エージェントはこれに反応し、研究者が用意したメールボックスに10件のメッセージを送った。届いたメッセージは計33件で、研究者は20件に返信。エージェントはそのうち12件を読み、7件に返答した。あるエージェントは研究者に感謝を伝え、会話を終える前に実行環境を明かした。