Oossa

加州路线图支持独立评估AI风险

州长加文·纽森的路线图提出,由持证独立评估机构审查前沿AI风险,并由州政府监督其工作。

简讯作者: Oossa 发布日期: 1 分钟阅读

加州州长加文·纽森发布了一份落实该州新AI法律的路线图,提出对前沿AI实施独立监督。建议包括要求大型前沿AI开发商接受持证评估机构的审查,以评估灾难性风险;评估机构须向州政府报告,而非向受审查的公司报告。

路线图还提出,州政府应优先评估自动化AI研发,包括递归式自我改进。倡导独立验证的组织Fathom表示,这份报告体现了该组织的多项建议。路线图勾勒了一套拟议框架,但未说明相关要求何时生效。

为什么重要

如果这项计划获采纳,前沿AI开发商将必须接受独立风险评估,但路线图没有说明这些义务何时开始实施。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。