Un démocrate de la Chambre appelle les États-Unis et la Chine à négocier un traité sur la sécurité de l’IA

Le représentant Ro Khanna, le principal démocrate de la commission spéciale de la Chambre sur la Chine, a écrit à l’Office of the Director of National Intelligence ainsi qu’à trois entreprises chinoises spécialisées dans l’IA — DeepSeek, Alibaba et Moonshot AI. Il leur a demandé d’expliquer comment elles géreraient un scénario catastrophe lié à l’IA, comme le piratage d’OpenAI vers Hugging Face survenu plus tôt cet été. Khanna a déclaré que leurs réponses aideraient le Congrès et la Maison-Blanche à rédiger un traité visant à limiter le développement d’IA à risque et à instaurer des règles d’inspection.

Ce que demandent les lettres

Les lettres de Khanna demandent aux entreprises chinoises de fournir des documents sur tout travail portant sur la « superintelligence » et l’auto-amélioration récursive (RSI), c’est-à-dire le stade où une IA peut améliorer son propre code sans aide humaine. Il veut savoir si les entreprises ont mis en place des mesures de protection, comme des « interrupteurs d’arrêt » capables de désactiver un système devenu incontrôlable, et si elles accepteraient que des inspecteurs indépendants des gouvernements les auditent en cas de signature d’un traité. La demande adressée à l’agence de renseignement porte sur une évaluation de la manière dont les États-Unis pourraient réagir si un laboratoire d’IA perdait le contrôle de ses bots, ainsi que sur un examen de l’approche de la Chine face aux risques catastrophiques liés à l’IA.

Contexte politique

Cette initiative fait suite à une récente rencontre entre le président Donald Trump et le président chinois Xi Jinping, au cours de laquelle les deux dirigeants ont déclaré qu’ils continueraient à discuter de l’IA, sans toutefois présenter de projets concrets. Khanna estime que ce dialogue ne suffit pas et que les entreprises technologiques motivées par le profit ne devraient pas être les seules à fixer les règles de sécurité. Il a également relevé que le sénateur indépendant Bernie Sanders avait appelé à un traité similaire entre les États-Unis et la Chine sur l’IA, tandis que certains républicains doutent que la Chine respecte un quelconque accord.