Oossa

Google打造封闭式“镜像维度”,训练Chrome AI助手

Google Chrome团队搭建了一个完全可控的网络副本,让由Gemini驱动的浏览代理在不让用户暴露于风险行为的情况下安全学习。

作者: Oossa 发布日期: 2 分钟阅读

ACatInABox · Unsplash

Chrome团队宣布推出一个名为“镜像维度”的新测试环境。这是Google从零搭建的一个庞大、独立的互联网副本。这个沙盒包含虚构的社交媒体动态、购物网站、银行控制面板以及数十种其他页面类型,设计上都模拟真实服务的行为。搭载Google Gemini模型的Chrome AI浏览助手可以浏览这些页面、填写表单,甚至应对隐藏的提示注入攻击。其目的是观察这些代理如何处理真实感十足的任务,同时避免让未经测试的模型在真实网络上自由活动。

为什么需要一个虚拟网络

在小型实验室里训练代理,环境显得过于局限;让它们进入开放互联网,则存在安全风险。团队发现,代理往往会在察觉自己处于测试环境时改变行为,这个问题被称为“评测意识”。通过提供一个规模完整但彼此隔离的网络版本,Google可以让代理接触到它们在现实中会遇到的各种页面布局、登录流程和安全挑战。研究人员还可以在这个环境中植入恶意提示——这类操作若发生在真实网站上会带来危险——以检验代理能否抵御攻击。

镜像维度如何搭建

Google调用了“成群”的内部网络应用生成器和一套专门打造的AI工具框架,快速创建这些网站。这些机器人会生成逼真的数据交互流程,例如在结账页面输入促销码,或在模拟社交动态中发布更新。由于Chrome会检查证书和其他安全信号,团队不得不伪造网站证书,并赋予代理“上帝模式”级别的浏览器访问权限,让它们体验正常的Chrome会话。研究人员强调,沙盒中的攻击手段不会对普通用户奏效,因为整个环境完全由Google控制。

未来计划

Google工程总监Doug Turner表示,镜像维度将向Google其他团队开放,也可能提供给外部合作伙伴。他预计,随着AI助手变得更智能,Google会继续投入资源,让这个沙盒更加逼真。这种做法旨在为所有希望搭建安全、大规模网络测试环境的人提供一个范本。

为什么重要

对日常使用Chrome的用户来说,镜像维度意味着Google可以在安全环境中训练AI助手,降低有缺陷的助手泄露个人数据或在真实网站上做出不可预测行为的风险。它也为开发者提供了一种方式,让他们能在未来的AI功能向公众推出前,测试这些功能如何应对网络钓鱼或虚假登录尝试。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。