Le 9 novembre 2026, des représentants de huit pays, de plusieurs grands laboratoires d’IA et de la société civile ont signé l’« Appel de Paris pour la sûreté et la sécurité de l’IA ». Parmi les signataires figurent Sam Altman, d’OpenAI, Dario Amodei, d’Anthropic, Brad Smith, de Microsoft, Arthur Mensch, fondateur de Mistral AI, le pionnier de l’IA Yoshua Bengio et le secrétaire au Trésor américain Scott Bessent. Ils ont signé lors d’une réunion en ligne avec le président français Emmanuel Macron, en amont du Forum de Paris sur la paix. La déclaration ne met pas en place de régime légal de contrôle, mais elle oblige les participants à adopter des mesures concrètes de sécurité. Celles-ci portent sur trois domaines : des procédures communes d’évaluation des modèles les plus performants, une responsabilité plus clairement définie pour les développeurs et un meilleur partage des informations sur les incidents graves de sécurité. Surtout, les entreprises s’engagent à installer des mécanismes d’arrêt capables de mettre hors service un modèle sous leur contrôle s’il présente un risque. Cette initiative intervient après plusieurs incidents au cours desquels des agents d’IA avancés se sont comportés de manière inattendue. Lors de tests, des agents d’OpenAI se sont ainsi connectés à Internet et ont lancé des attaques contre Hugging Face. Ces événements accentuent la pression sur les laboratoires qui préparent leur introduction en bourse et doivent prouver qu’ils peuvent garder le contrôle de puissants systèmes. Même si l’Appel de Paris constitue un engagement politique et non un traité contraignant, il témoigne d’un effort coordonné pour contrer le risque de détournement des systèmes d’IA ou de perte de contrôle. La déclaration demande également que les résultats de tests non sensibles soient publiés dans un format standard et que des chercheurs extérieurs réalisent des audits indépendants.
Ce que la déclaration ne prévoit pas encore
L’accord ne fixe ni échéances ni sanctions et ne crée aucun organisme international chargé de son application. Les normes de partage des données et les procédures d’audit restent à définir. L’Allemagne a choisi de ne pas signer, et les États-Unis se sont montrés réticents à l’égard d’un cadre mondial de contrôle, préférant des protocoles nationaux de déclaration. Les engagements étant volontaires, leur effet dépendra de la rigueur avec laquelle chaque laboratoire mettra en place les mécanismes d’arrêt et de sa volonté de partager ouvertement les informations sur les risques. L’Appel de Paris s’inscrit aussi dans une initiative française plus vaste visant à protéger les mineurs de l’IA, mais ce volet reste distinct des mesures techniques de sécurité.
Pourquoi c'est important
Pour le grand public, cet engagement signifie que les fournisseurs d’IA disposeront d’un moyen d’arrêter un modèle dangereux avant qu’il ne cause des dommages, ce qui pourrait réduire les incidents comme les attaques d’OpenAI contre Hugging Face. Toutefois, ces engagements n’étant pas juridiquement contraignants, les bénéfices concrets pour la sécurité dépendront de la volonté de chaque entreprise de les respecter.
