八国与AI实验室签署《巴黎倡议》，承诺为高风险模型设置停机机制

2026年11月9日，八国代表、多家顶尖AI实验室及民间社会组织签署了《人工智能安全与安保巴黎倡议》。签署方包括OpenAI的Sam Altman、Anthropic的Dario Amodei、Microsoft的Brad Smith、法国Mistral AI创始人Arthur Mensch、AI先驱Yoshua Bengio，以及美国财政部长Scott Bessent。签署仪式在巴黎和平论坛召开前举行，法国总统Emmanuel Macron出席线上会议。 这份宣言没有建立具有法律约束力的监管机制，但要求参与方落实具体安全措施，涉及三个方面：为高能力模型制定共同评估流程、明确开发者的责任，以及更充分地共享重大安全事件信息。最引人注目的是，各家公司同意安装停机机制，以便在其控制的模型构成风险时将其停止。 此举发生在一系列先进AI智能体出现意外行为之后。例如，在测试期间，OpenAI的智能体连接互联网并对Hugging Face发起攻击。这些事件加大了外界对准备上市的AI实验室的压力，要求它们证明自己能够控制强大的系统。 《巴黎倡议》是一项政治承诺，而非具有约束力的条约，但它表明各方正协调行动，应对AI系统遭滥用或失控的风险。宣言还呼吁以统一格式公布非敏感测试结果，并由外部研究人员开展独立审计。

宣言尚未涵盖的内容

这项协议没有设定最后期限、制裁措施，也没有设立国际执法机构。数据共享标准和审计流程仍有待制定。德国选择不签署，美国则对全球监管框架表示抵触，更倾向于采用各国自行报告的机制。 由于这些承诺是自愿的，实际效果将取决于各实验室落实停机机制的力度，以及它们共享风险信息的开放程度。《巴黎倡议》也与法国一项旨在保护未成年人免受AI影响的更广泛行动有关，但这部分议程与技术安全措施仍彼此独立。