Anthropic已向外界传阅一份法案草案，提议授权美国商务部在发现“迫在眉睫的灾难性风险”时，叫停AI模型的分发。草案将此类风险定义为可能导致50人以上死亡，或造成超过10亿美元的财产损失。危险必须源于生物武器、模型脱离控制，或网络攻击。
法案将如何运作
提案要求由在商务部登记的“独立评估人员”评估模型风险。评估人员可以接受AI实验室付费，但报酬不得与评估结果挂钩。如果评估人员发现风险，必须在72小时内通知商务部；商务部随后必须请求华盛顿特区的一名法官下令暂停模型发布。法案禁止任何联邦机构自行叫停模型。
业界反应
Anthropic表示，这项法案体现了其Advanced AI Framework。该公司自6月以来一直在向立法者推广这一框架，但未作进一步评论。其他AI公司倾向于采用自愿的内部监控，而非强制监管；Nvidia首席执行官则认为，业界不需要新法律。
为什么重要
如果法案获得通过，可能会阻止发布存在严重安全威胁的AI系统，为公众应对极端危害提供法律保障。对开发者而言，在推出强大模型前还将增加一道合规程序。目前尚不清楚评估能有多大独立性，也不清楚法院在实际操作中能多快采取行动。
