研究人员警告：AI或将加速自身发展

包括Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki在内的20多位AI研究人员警告称，AI很快可能会帮助加速更强大AI的开发。在一篇新论文中，他们表示，这可能引发一场“智能爆炸”——AI快速迭代、帮助打造更好的AI，而后者又进一步加快这一进程。

作者强调，具体时间和结果都尚不确定。但他们指出，开发AI的公司目前已经让AI系统编写大部分代码，而AI可能在数年内实现整个研发流程的自动化。

他们为何担忧？

研究人员警告称，如果AI承担起更多设计和测试新系统的工作，目前需要数年才能取得的进展可能在几个月内实现。他们担心政府和社会难以跟上这一速度。他们还提出，人们可能会失去对高能力AI的控制，权力也可能在企业、政府和国家之间转移。

这些是论文作者描述的风险，并不意味着他们断言这种结果必然会出现。文章没有给出比“数年内”更具体的时间表，也没有说明AI研究的哪些环节会最先实现自动化。

他们希望政策制定者采取什么行动？

研究人员呼吁政策制定者更清楚地了解AI研究自动化的进展。这有助于决策者理解技术变化的速度，不过原文没有详细说明论文提出的具体政策建议。