2026年10月1日,州长Gavin Newsom签署了SB 947,即《禁止机器人老板法案》。新法禁止加州雇主仅凭自动化决策系统(ADS)解雇或处分员工。如果公司主要依赖AI作出决定,就必须由人工核实;同时,员工必须收到书面通知,了解AI在决定中所起的作用、所用数据以及联系人。
法案缘起
参议员Jerry McNerney于2025年首次提出这项立法构想,法案编号为SB 7,但州长Newsom否决了该版本,理由是担心法案会迫使企业在使用任何AI工具时都通知员工。2026年2月,McNerney重新提交法案,编号改为SB 947,并取消事前通知要求,将适用范围缩小至纪律处分和解雇。参议院于2026年5月20日以29票赞成、9票反对通过修订版法案;同年晚些时候,法案也获州众议院通过,随后送交州长签署。
法律有哪些要求
雇主仍可将AI用于日常事务,但不得在未经人工核查的情况下,让ADS决定员工的去留。法律还禁止使用ADS预测员工未来的行为、信念或情绪,也禁止在就业决策中使用推断种族、性别等受保护特征的系统。员工每年可申请获取AI决策所用数据的副本;每次违规将面临500美元民事罚款,并可能被判支付惩罚性赔偿。
接下来会怎样
企业需要审查所有会影响人力资源决策的AI工具,加入经理审核环节,并建立发送规定通知的流程。该规定将由州劳工专员负责执行,员工也可以提起诉讼,索取个人损害赔偿。行业团体警告称,“主要依赖”这一术语没有明确定义,可能造成不确定性,因此许多企业很可能采取谨慎做法,限制在人员管理中使用AI。
为什么重要
今后,只要AI在解雇或纪律处分决定中发挥了重要作用,加州员工就会收到书面说明,从而有机会质疑决定。雇主必须增加人工审核环节,这可能会拖慢部分人力资源流程,但也能降低AI判断带有偏见或出错的风险。这项法律树立的先例可能促使其他州采取类似保障措施,进而改变美国各地企业运用AI管理员工的方式。