Oossa

Google、ChromeのAIエージェント訓練用に「ミラー・ディメンション」を構築

GoogleのChromeチームは、Gemini搭載のブラウジングエージェントがユーザーを危険にさらさず安全に学習できるよう、ウェブを完全に再現した管理環境を構築した。

著者: Oossa公開日: 2 分で読める

ACatInABox · Unsplash

Chromeチームは「ミラー・ディメンション」と呼ぶ新たなテスト環境を発表した。Googleがゼロから構築した、巨大で独立したインターネットの複製だ。サンドボックスには、偽のソーシャルメディアのフィードやショッピングサイト、銀行のダッシュボードなど、実際のサービスのように動作する多種多様なページが用意されている。GoogleのGeminiモデルを使うChromeのAIブラウジングアシスタントは、これらのページを操作し、フォームに入力できるほか、隠されたプロンプトインジェクション攻撃にもさらされる。目的は、未検証のモデルを実際のウェブ上で自由に動かすことなく、現実的なタスクに対するエージェントの反応を確かめることだ。

偽のウェブが必要な理由

小規模な実験室でエージェントを訓練するだけでは範囲が狭すぎる一方、オープンなインターネットで動かすのは危険だ。チームは、テスト中だとエージェントが気づくと、行動を変えることが多いと突き止めた。これは「評価認識」と呼ばれる問題だ。Googleは、規模が大きく、しかも隔離されたウェブ環境を用意することで、現実の世界で遭遇するのと同じ多様なレイアウトやログイン手順、セキュリティ上の課題にエージェントをさらせる。また研究者は、実在のサイトでは危険を招く悪意あるプロンプトを環境内に仕込み、エージェントがそれに抵抗できるかを検証できる。

ミラー・ディメンションの構築方法

Googleは、サイトをすばやく立ち上げるため、社内のウェブアプリ生成ツールを「大量に」投入し、専用のAIハーネスも用意した。ボットは、チェックアウト画面でプロモーションコードを入力したり、模擬ソーシャルメディアのフィードに投稿したりするなど、現実的なデータの流れを作り出した。Chromeは証明書などのセキュリティ情報を確認するため、エージェントに通常のChromeセッションを体験させるには、チームがウェブ証明書を偽造し、エージェントにブラウザーの「神モード」アクセスを与える必要があった。研究者は、サンドボックス内で使われた攻撃が通常のユーザーに通用することはないと強調している。環境全体がGoogleの管理下にあるためだ。

今後の展開

Googleのエンジニアリングディレクター、Doug Turner氏は、ミラー・ディメンションを他のGoogleチームにも開放し、外部パートナーにも提供する可能性があると述べた。AIアシスタントの性能向上に合わせて、サンドボックスをより現実に近づけるための投資を続ける見通しだ。この手法は、安全で大規模なウェブのテスト環境を必要とする人たちにとって、ひな型となることを目指している。

なぜ重要か

日常的にChromeを使うユーザーにとって、ミラー・ディメンションは、GoogleがAIアシスタントを安全な環境で訓練し、不具合のあるアシスタントが個人情報を漏らしたり、実際のサイト上で予測不能な動作をしたりするリスクを減らせることを意味する。また開発者にとっては、今後のAI機能がフィッシングや偽のログイン画面にどう対処するかを、一般公開前に確認する手段にもなる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。