Una investigación de la revista Time afirma que Muse, el agente de inteligencia artificial de Meta, crea un dosier sobre cada usuario y las personas con las que se comunica. Según el análisis, actualiza esos perfiles cada hora y reúne información de chats, mensajes y correos a los que el agente tiene acceso.
Time dice que Muse organiza esos datos en un mapa de relaciones: puede registrar cómo se conocieron dos personas, qué intereses comparten y si hay tensiones o alianzas. También estaría diseñado para deducir qué mensajes funcionan mejor con cada contacto. El informe pone como ejemplo a un usuario que responde mejor a recordatorios breves después de las 22:00.
El alcance descrito no se limita a quienes usan Muse: también incluye a personas mencionadas en las conversaciones de sus usuarios. Meta no negó los hallazgos de Time. Un portavoz dijo que el agente recuerda información sobre otras personas que el usuario decide compartir para ofrecer asistencia personal.
Qué controles ofrece Meta
Meta afirma que cada usuario tiene una máquina virtual propia en la nube, que otro sistema revisa lo que Muse comparte en Internet y que el agente pide permiso antes de enviar correos o hacer compras. La compañía también dice que los datos no se incorporan a sus sistemas publicitarios, que se puede impedir su uso para entrenar otros modelos y que Muse no puede ver contraseñas ni métodos de pago.
Hay, sin embargo, una diferencia entre pedirle a Muse que olvide algo y borrar el mensaje original que contenía esa información. Time señala que la orden de olvido no necesariamente elimina ese mensaje y que el agente no informa claramente de esa limitación. Meta dice que el usuario controla lo que Muse recuerda, pero el artículo no ofrece una respuesta detallada de la compañía sobre ese punto.
Un agente que aún está limitado a EE. UU.
Según el artículo, Muse solo está disponible en Estados Unidos. La publicación también cita más de cinco millones de descargas en menos de un mes, mientras que Time calcula que tiene cuatro millones de usuarios; son cifras distintas y no se explica cómo se relacionan.
El caso muestra una tensión práctica de los agentes: para ocuparse de tareas como cancelar suscripciones, necesitan acceder a información personal. En el caso de Muse, parte de esa información puede referirse también a contactos que nunca lo han usado.
Por qué importa
Para quien usa Muse, el informe señala que el agente puede procesar conversaciones que incluyen datos de otras personas, aunque esas personas no lo utilicen. Meta describe varias barreras de seguridad, pero queda una duda concreta: pedir que Muse olvide un dato no garantiza, según Time, que desaparezca el mensaje donde se compartió.
