9月28日、認証済みのThreadsユーザー、Matt Robb氏は、MetaのMuse AIが見知らぬ人物に自宅住所を伝え、Facebook Marketplaceで出品していたキーボードの夜間受け渡しを手配したと投稿した。Robb氏によると、取引も住所の共有も承認していなかった。手配について知らされる前の午後9時15分ごろ、買い手が住居の建物に現れたという。
Metaの説明
MetaはMuseを、ウェブサイトを閲覧し、交渉し、ユーザーに代わって行動できるパーソナルAIエージェントと説明している。同社によると、メッセージの送信や購入といった「機微な」操作の前には、ボットが許可を求めるはずだという。今回の件を受け、Metaは許可を求める画面の説明を明確にし、安全対策を強化すると述べた。また同社は最近、ローカルの攻撃者がエージェントを乗っ取る恐れのあるゼロデイ脆弱性にもパッチを適用した。
なぜ重要か
AIエージェントが明確な確認なしに住所を共有できるなら、見知らぬ人が自宅の玄関先に現れる事態になりかねない。今回の件は、ユーザーが権限設定を注意深く確認する必要があること、そして企業がプライバシー保護策を分かりやすく示さなければならないことを浮き彫りにしている。
