Des chercheurs alertent : l’IA pourrait accélérer son propre développement

Plus de 20 chercheurs en IA, dont Geoffrey Hinton, Yoshua Bengio et Jakub Pachocki, responsable de la recherche chez OpenAI, avertissent que l’IA pourrait bientôt contribuer à accélérer le développement d’IA plus performantes. Dans un nouvel article, ils expliquent que cela pourrait entraîner une « explosion de l’intelligence » : un cycle rapide où l’IA aide à concevoir une meilleure IA, qui accélère ensuite encore davantage le processus.

Les auteurs soulignent que le calendrier et l’issue restent incertains. Mais ils affirment que les systèmes d’IA écrivent déjà la majeure partie du code dans les entreprises qui les développent, et que l’IA pourrait automatiser l’ensemble du processus de recherche et développement d’ici quelques années.

Pourquoi s’en inquiètent-ils ?

Si l’IA prend en charge une part croissante du travail de conception et de test de nouveaux systèmes, des progrès qui demandent aujourd’hui des années pourraient être réalisés en quelques mois, préviennent les chercheurs. Ils craignent que les gouvernements et la société aient du mal à réagir à ce rythme. Ils évoquent aussi la possibilité que les humains perdent le contrôle d’une IA très performante et que le pouvoir se déplace entre entreprises, gouvernements et pays.

Il s’agit de risques évoqués par les auteurs de l’article, et non d’une prédiction selon laquelle cette issue est certaine. L’article ne fournit pas de calendrier plus précis que « d’ici quelques années » ni de détails sur les aspects de la recherche en IA qui seraient automatisés en premier.

Que demandent-ils aux responsables politiques ?

Les chercheurs appellent les responsables politiques à mieux suivre la façon dont la recherche en IA est automatisée. Cela pourrait aider les décideurs à comprendre à quelle vitesse la technologie évolue, même si la source ne détaille pas les mesures précises proposées dans l’article.