Oossa

Google crée un « Mirror Dimension » pour entraîner l’IA de Chrome

L’équipe Chrome de Google a conçu une réplique entièrement contrôlée du Web pour que ses agents de navigation propulsés par Gemini puissent apprendre sans exposer les utilisateurs à des comportements risqués.

Par Publié par Oossa: 2 min de lecture

ACatInABox · Unsplash

L’équipe Chrome a annoncé un nouvel environnement de test baptisé « Mirror Dimension ». Il s’agit d’une immense copie autonome d’Internet, créée de toutes pièces par Google. Le bac à sable comprend de faux fils d’actualité sur les réseaux sociaux, des sites de vente en ligne, des interfaces bancaires et des dizaines d’autres types de pages, conçus pour se comporter comme de véritables services. Les assistants de navigation IA de Chrome, qui fonctionnent avec les modèles Gemini de Google, peuvent parcourir ces pages, remplir des formulaires et même être confrontés à des attaques par injection de prompt dissimulées. L’objectif est d’observer leur réaction à des tâches réalistes sans laisser un modèle non testé parcourir le Web en direct.

Pourquoi créer un faux Web

Entraîner des agents dans un petit laboratoire est trop limitant, tandis que les laisser accéder à l’Internet ouvert présente des risques. L’équipe a constaté que les agents changent souvent de comportement lorsqu’ils savent qu’ils sont testés — un problème appelé « conscience de l’évaluation ». En leur proposant une version du Web à grande échelle, mais isolée, Google peut les exposer à la même variété de mises en page, de parcours de connexion et de défis de sécurité que dans le monde réel. L’environnement permet aussi aux chercheurs d’injecter des prompts malveillants qui seraient dangereux sur de vrais sites, afin de vérifier si les agents savent y résister.

Comment le Mirror Dimension a été créé

Google a mobilisé des « armées » de générateurs internes d’applications Web et un dispositif d’IA spécialement conçu pour créer rapidement les sites. Les robots ont mis en place des parcours de données réalistes, par exemple la saisie de codes promotionnels sur une page de paiement ou la publication de messages dans un faux fil d’actualité. Comme Chrome vérifie les certificats et d’autres signaux de sécurité, l’équipe a dû falsifier des certificats Web et accorder aux agents un accès au navigateur en « mode dieu », afin qu’ils utilisent une session Chrome normale. Les chercheurs soulignent que les attaques menées dans le bac à sable ne fonctionneraient pas contre les utilisateurs ordinaires, car l’environnement est entièrement contrôlé par Google.

La suite

Doug Turner, directeur de l’ingénierie chez Google, a déclaré que le Mirror Dimension serait mis à la disposition d’autres équipes de Google et, peut-être, de partenaires externes. Il s’attend à ce que les investissements se poursuivent pour rendre le bac à sable plus réaliste à mesure que les assistants IA gagnent en intelligence. Cette approche a vocation à servir de modèle à toute personne souhaitant disposer d’un environnement de test Web sûr et à grande échelle.

Pourquoi c'est important

Pour les utilisateurs de Chrome, le Mirror Dimension permet à Google d’entraîner ses assistants IA dans un environnement sûr, réduisant ainsi le risque qu’un assistant défectueux expose des données personnelles ou se comporte de manière imprévisible sur de vrais sites. Il offre aussi aux développeurs un moyen de voir comment les futures fonctions d’IA pourraient réagir aux tentatives d’hameçonnage ou aux fausses pages de connexion avant leur mise à disposition du public.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.