众议院民主党人呼吁美中谈判制定人工智能安全条约

众议员 Ro Khanna 是众议院中国问题特别委员会的民主党首席成员。他致信国家情报总监办公室以及 DeepSeek、Alibaba 和 Moonshot AI 三家中国人工智能公司，要求说明，如果发生最坏情况的人工智能事故，例如今年夏初 OpenAI 到 Hugging Face 的黑客事件，他们会如何应对。Khanna 表示，这些答复将帮助国会和白宫起草一项条约，限制高风险人工智能开发并制定检查规则。

信函提出的要求

Khanna 在信中要求中国公司提供有关“超级智能”及递归自我改进（RSI）的相关工作文件。所谓 RSI，是指人工智能无需人类帮助便能改进自身代码的阶段。他想了解这些公司是否已建立安全防护措施，例如能够关闭失控系统的“紧急停止开关”，以及如果签署条约，是否愿意接受非政府检查人员审计。他致信情报部门，则是要求评估：如果某个人工智能实验室失去对其机器人程序的控制，美国可以如何应对；并审查中国应对人工智能灾难性风险的做法。

政治背景

此举之前，美国总统 Donald Trump 与中国国家主席 Xi Jinping 近期举行了会晤。两位领导人表示将继续就人工智能进行对话，但没有提出具体计划。Khanna 认为，仅有对话并不足够，不能让以利润为导向的科技公司成为制定安全规则的唯一一方。他还指出，参议院独立派 Bernie Sanders 也呼吁制定类似的美中人工智能条约，而一些共和党人怀疑中国是否会遵守任何协议。