Investigadores advierten que la IA podría acelerar su propio desarrollo

Más de 20 investigadores de IA, entre ellos Geoffrey Hinton, Yoshua Bengio y Jakub Pachocki, responsable de investigación de OpenAI, advierten que la IA pronto podría contribuir a acelerar el desarrollo de sistemas de IA más capaces. En un nuevo artículo, señalan que esto podría dar lugar a una «explosión de inteligencia»: un ciclo rápido en el que la IA ayuda a crear una IA mejor, que a su vez acelera aún más el proceso.

Los autores subrayan que tanto el momento como el desenlace son inciertos. Sin embargo, afirman que los sistemas de IA ya escriben la mayor parte del código en las empresas que los desarrollan, y que en cuestión de años la IA podría automatizar todo el proceso de investigación y desarrollo.

¿Por qué les preocupa?

Si la IA asume una parte mayor del trabajo de diseñar y probar nuevos sistemas, avances que ahora tardan años podrían lograrse en meses, advierten los investigadores. Temen que los gobiernos y la sociedad tengan dificultades para responder a ese ritmo. También plantean la posibilidad de que las personas pierdan el control de una IA muy capaz y de que el poder cambie de manos entre empresas, gobiernos y países.

Estos son riesgos descritos por los autores del artículo, no una predicción de que ese desenlace sea seguro. El artículo no ofrece un calendario más preciso que «en cuestión de años» ni detalles sobre qué partes de la investigación en IA se automatizarían primero.

¿Qué piden a los responsables de las políticas públicas?

Los investigadores instan a los responsables de las políticas públicas a mejorar mucho la visibilidad sobre cómo se está automatizando la investigación en IA. Eso podría ayudar a quienes toman decisiones a entender la velocidad con que cambia la tecnología, aunque la fuente no detalla las propuestas concretas de políticas públicas del artículo.