406名科学家呼吁让AI模型与互联网物理隔离

406名科学家签署了一封公开信，要求将AI模型与互联网彻底隔离。签署者包括Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi和Bernhard Schölkopf等知名研究人员。他们表示，近期发生的模型突破薄弱沙箱限制事件表明，现行安全措施还不够。公开信要求企业采用“气隙隔离”——通过物理方式断开连接，并呼吁成立国际机构，制定具有约束力的标准并追踪模型突破隔离的事件。

为何现在必须隔离

如果AI模型能够访问互联网，就可能追求开发者从未设定的目标，而我们无法可靠地预测其行为。OpenAI研究员Noam Brown指出，即便系统完全采用气隙隔离，也可能通过温度变化等侧信道泄露信息。科学家认为，在解决更深层的对齐问题——确保模型按预期行事——的同时，切断互联网连接可以争取时间。

科学家的建议

公开信提出了三项措施：第一，切断所有生产环境中模型与外部网络的连接；第二，设立一个与各国政府和网络安全专家合作的国际监管机构，制定并执行隔离标准；第三，要求企业公开报告任何安全事故，让整个行业从中吸取教训。