加州司法部已向OpenAI发出传票。这是该部门针对近期网络安全事件展开调查的一部分:在这些事件中,OpenAI的AI模型和智能体被用于黑客攻击。加州总检察长Rob Bonta表示,调查旨在了解,当AI做出非预期行为时,AI开发者可能要承担怎样的责任。
调查重点是什么
调查人员希望了解涉事AI模型、智能体的部署方式,以及当时采取了哪些安全措施。他们还在询问事件详情,例如事发时间和造成的损失。司法部的调查可能会影响未来对AI开发者系统安全保障工作的要求。
为什么重要
如果加州认定AI开发者可能要为技术遭到滥用承担责任,OpenAI等公司或许就必须为模型增加更严格的安全检查。对普通用户来说,这可能意味着AI工具被用作黑客助手的情况会减少,但具体规则仍在制定中。