Oossa

Google crea una «Dimensión Espejo» para entrenar la IA de Chrome

El equipo de Chrome creó una réplica de la web bajo control total para que sus agentes de navegación con Gemini aprendan de forma segura, sin exponer a los usuarios a comportamientos peligrosos.

Por Publicado por Oossa: 2 min de lectura

ACatInABox · Unsplash

El equipo de Chrome anunció un nuevo entorno de pruebas al que llama «Dimensión Espejo». Es una copia enorme y autónoma de internet que Google creó desde cero. El entorno aislado incluye feeds falsos de redes sociales, tiendas en línea, paneles bancarios y decenas de otros tipos de páginas, todos diseñados para funcionar como servicios reales. Los asistentes de navegación con IA de Chrome, basados en los modelos Gemini de Google, pueden recorrer estas páginas, rellenar formularios e incluso enfrentarse a ataques ocultos de inyección de instrucciones. El objetivo es observar cómo reaccionan los agentes ante tareas realistas, sin dejar que un modelo no probado navegue por la web abierta.

Por qué hace falta una web falsa

Entrenar agentes en un laboratorio pequeño resulta demasiado limitado, mientras que soltarlos en internet sin restricciones es peligroso. El equipo descubrió que los agentes suelen cambiar su comportamiento cuando detectan que están en una prueba, un problema conocido como «conciencia de evaluación». Al ofrecerles una versión de la web a escala real, pero aislada, Google puede exponerlos a la misma variedad de diseños, procesos de inicio de sesión y retos de seguridad que encontrarán en el mundo real. El entorno también permite a los investigadores introducir instrucciones maliciosas que serían peligrosas en sitios reales y comprobar si los agentes pueden resistirse a ellas.

Cómo se creó la Dimensión Espejo

Google recurrió a «ejércitos» de generadores internos de aplicaciones web y a un sistema de IA diseñado específicamente para poner los sitios en marcha con rapidez. Los bots crearon flujos de datos realistas, como introducir códigos promocionales en la página de pago o publicar novedades en un feed social simulado. Como Chrome verifica los certificados y otras señales de seguridad, el equipo tuvo que falsificar certificados web y dar a los agentes acceso al navegador en «modo dios» para que vivieran una sesión normal de Chrome. Los investigadores subrayan que los ataques usados en el entorno aislado no funcionarían contra usuarios comunes, porque Google controla por completo ese entorno.

Qué viene ahora

Doug Turner, director de ingeniería de Google, dijo que la Dimensión Espejo se abrirá a otros equipos de Google y, posiblemente, a socios externos. Prevé que la inversión continuará para hacer el entorno aislado más realista a medida que los asistentes de IA se vuelvan más inteligentes. La idea es que sirva de modelo para cualquiera que quiera crear un banco de pruebas web seguro y a gran escala.

Por qué importa

Para quienes usan Chrome a diario, la Dimensión Espejo significa que Google puede entrenar a sus asistentes de IA en un entorno seguro, reduciendo el riesgo de que un asistente defectuoso exponga datos personales o actúe de forma impredecible en sitios reales. También ofrece a los desarrolladores una forma de comprobar cómo podrían manejar las futuras funciones de IA los intentos de phishing o los inicios de sesión falsos antes de que lleguen al público.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.