Oossa

纽约启动AI安全登记,为2027年新法做准备

《RAISE法案》将要求大型AI开发商登记、公布安全信息并报告严重事故。纽约州于11月10日开放登记平台。

作者: Oossa 发布日期: 2 分钟阅读

David Vives · Unsplash

纽约州于11月10日开放大型AI开发商登记平台,为一项将于2027年1月1日生效的新州法做准备。根据《RAISE法案》,年收入超过$500 million、开发前沿AI系统的公司必须在生效日前完成登记。据TechCrunch报道,OpenAI和Anthropic预计都将受到该法案约束。

该法案要求受监管的开发商在网站上公布安全框架、发布有关其模型的公开报告,并在发生重大安全事故后72小时内向州政府报告。纽约州可对违规行为处以最高$1 million的罚款,对后续违规行为处以最高$3 million的罚款。州政府还可以对未登记的公司采取执法行动,不过一名发言人没有具体说明这些行动会是什么。

新成立的数字创新、治理、诚信与信任办公室(Office of Digital Innovation, Governance, Integrity, and Trust,简称DIGIT)将负责实施该计划并监督相关公司。这些规定将安全信息披露和事故报告纳入州政府的正式监管,而不再仅依赖企业自愿披露。

纽约州还在筹备什么?

11月10日,州长Kathy Hochul还宣布在Binghamton University设立纽约州AI责任与研究中心(New York Center for AI Responsibility and Research)。该中心旨在对先进AI系统进行独立评估,并与DIGIT合作审查企业的安全框架。Hochul最初于1月宣布设立该中心,并为其筹集了$55 million的捐款和资本资金。

《RAISE法案》是各州出台的AI安全法规之一。纽约州现已要求AI陪伴服务运营商定期提醒用户,他们正在与机器人对话,并尽合理努力发现用户有自杀或自残倾向的迹象。另一项于10月签署的法律限制聊天机器人对未成年人的某些行为,包括以欺骗方式模拟真人互动,以及鼓励自杀或饮食失调的回应。该法将于2027年6月1日生效。

加州的SB 53同样要求前沿AI公司公布安全框架、保护举报人并报告重大事故,但规定的报告期限为15天。伊利诺伊州的SB 315预计将于2027年年初生效,包含类似要求,并增加独立安全审计。

为什么重要

对纽约州居民而言,这项法律意味着州政府将要求部分大型AI开发商披露安全计划,并按规定时限报告严重事故。但法律没有明确用户会在每份公开报告中看到哪些内容,也未说明州政府会多频繁地采取执法行动。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。