Anthropic, OpenAI y varios laboratorios de investigación en IA realizan discretamente ejercicios de simulación en los que imaginan que una IA fuera de control deja sin servicio bancos, conexiones a internet, redes eléctricas y suministros de agua. La idea se parece a los juegos de guerra del Pentágono, que ponen a prueba las respuestas ante un intercambio nuclear. Los laboratorios dicen que estos ejercicios les ayudan a pensar cómo reaccionar si un sistema de IA potente se comportara de forma dañina.
Cómo son los ejercicios
Según Axios, cada laboratorio reúne a equipos internos para analizar una serie de posibles modos de falla. El portavoz de OpenAI dijo al medio que los ejercicios no son predicciones, sino herramientas de preparación. Los escenarios abarcan distintos tipos de impacto, desde interrupciones en los servicios financieros hasta cortes de servicios públicos. Los laboratorios consideran este trabajo una práctica de continuidad del negocio, un método corporativo habitual para prepararse ante crisis graves.
Por qué importa
Si una IA potente funcionara mal o se usara indebidamente, podrían interrumpirse servicios esenciales de los que dependemos, como la banca o la electricidad. Estos ejercicios buscan dar a los laboratorios una ventaja para preparar sus planes de respuesta, lo que podría reducir el tiempo que los servicios permanecen fuera de funcionamiento para los usuarios. Sin embargo, el artículo no confirma cuán detallados son esos planes ni si se compartirán con los organismos reguladores o el público.
