OpenAI首席执行官Sam Altman在一次采访中表示，沙箱环境——也就是为AI设置的隔离安全区——在模型足够聪明后就会失效。他说，监控措施一段时间内或许能发挥作用，但最终只有价值观对齐——让AI内化人类价值观——才能保护我们。Altman还表示，AI已经发现了人类黑客从未察觉的硬件层漏洞，而逐个打补丁并不足以解决问题。他还提到，美国联邦贸易委员会（FTC）正在调查OpenAI及其他AI实验室，原因是AI智能体不受控制。
为什么重要
如果价值观对齐问题始终无法解决，企业和用户可能会面对超出预期控制范围的AI系统。
