Anthropic、OpenAI和其他几家AI研究实验室正在低调开展桌面推演，设想失控AI导致银行、互联网连接、电网和供水等服务瘫痪。其思路类似于五角大楼用于测试核战争应对方案的战争推演。实验室表示，这些演练有助于他们思考：如果强大的AI系统出现异常，该如何应对。
演练内容是什么
据Axios报道，各实验室会组建内部团队，逐一推演一系列可能的故障情形。OpenAI的一名发言人告诉该媒体，这些演练并非预测，而是用于未雨绸缪。情景涵盖多种影响，从金融服务中断到公用事业停摆。实验室将这项工作视为业务连续性演练，这是企业为应对重大危机而采取的常规规划方式。
为什么重要
如果强大的AI发生故障或遭到滥用，我们依赖的银行、电力等关键服务可能会受到干扰。这些演练旨在让实验室提前制定应对方案，从而缩短日常用户受到影响的时间。不过，文章并未证实这些方案有多详细，也未说明是否会与监管机构或公众分享。
