Anthropic已悄然开始游说推动一项新的AI安全法案。根据提案，只有当某个AI模型可能造成至少50人死亡或至少10亿美元损失时，美国政府才能阻止其发布。法案将由商务部负责作出决定，并安排独立评估机构核查AI实验室的风险评估。
法案将如何运作
据Politico报道，一家在商务部注册的第三方评估机构将定期审查Anthropic的实验室及其AI模型。实验室可以向评估机构付费，但不得以此影响其独立性。Anthropic表示，这一做法遵循其“Advanced AI Framework”（先进AI框架）；自6月以来，该公司一直在向议员推广这一框架。
为什么重要
如果法案获得通过，商务部将有权阻止存在风险的AI模型发布，但只有在达到极高的伤害门槛后才会采取行动。对普通用户而言，这意味着大多数AI工具仍将可以使用，除非出现明确的大规模危险；安全问题在很大程度上仍将由公司自行处理。
