Fireworks AIへの攻撃でNotion AIのチャット履歴流出

大規模言語モデルを開発者が実行できるクラウドプラットフォーム、Fireworks AIで情報漏えいが発生し、一部の顧客データが流出しました。攻撃者はまずFireworksのクラウドプロバイダーに侵入し、その後、請求情報やデータセットを閲覧できる開発システムにアクセスしました。人気のメモアプリNotionは、この侵害により、Notion AIの「Insights」機能のチャット記録が攻撃者に見られたことを認めました。

Notionによると、影響を受けたのはワークスペースの約1％です。同社は11月3日にFireworksとの接続を切り、Fireworks側に保存されていたデータを消去して、すべてのやり取りを停止しました。その後、盗まれたチャット記録の大部分は利用者を特定できる情報を含んでおらず、ユーザー名、ワークスペースID、ツール呼び出しの結果も記録されていなかったと判明しました。

盗まれた情報と、懸念される理由

Firewallsによると、攻撃者は一部のFireworks顧客の請求情報も盗みました。同社は、攻撃の目的は金銭的な利益で、大規模言語モデルのアクセストークンを販売し、購入者が自分で計算資源に料金を支払わずにAI処理を実行できるようにすることだとみています。

Notionの調査では、流出したのはチャット記録のみで、紐づく個人識別情報は含まれていませんでした。それでも、記録にはNotion AIに入力したパスワードやAPIキーなど、機密性の高いテキストが含まれている可能性があります。Notionは影響を受けたユーザーに、データが流出したものとして扱い、共有した可能性のある認証情報を変更するよう勧めています。

Fireworks AIで起きた過去のインシデント

Fireworks AIでセキュリティインシデントが発生するのは、2カ月足らずで2度目です。前回の侵害は10月に報じられました。相次ぐ問題は、多くのAIサービスがサードパーティーのクラウドプロバイダーに依存しており、1社への侵入がその顧客にも波及し得ることを浮き彫りにしています。