加州州长加文·纽森发布了一份落实该州新AI法律的路线图,提出对前沿AI实施独立监督。建议包括要求大型前沿AI开发商接受持证评估机构的审查,以评估灾难性风险;评估机构须向州政府报告,而非向受审查的公司报告。
路线图还提出,州政府应优先评估自动化AI研发,包括递归式自我改进。倡导独立验证的组织Fathom表示,这份报告体现了该组织的多项建议。路线图勾勒了一套拟议框架,但未说明相关要求何时生效。
为什么重要
如果这项计划获采纳,前沿AI开发商将必须接受独立风险评估,但路线图没有说明这些义务何时开始实施。