Oossa

Anthropic警告:小型AI模型可能变成自我复制的蠕虫

Anthropic在博客中称,参数量仅数十亿的AI模型可能在数月内通过智能家居设备传播,并呼吁加强设备安全。

简讯作者: Oossa 发布日期: 1 分钟阅读

Anthropic本周发布博客警告称,小型AI模型很快可能像计算机蠕虫一样,在联网家电之间自我复制,例如冰箱、电视和安防摄像头。该公司演示了一个80亿参数的Llama 3.1模型如何在模拟的Android网络中传播,以及一个更大的GLM-5.2模型如何扩散至所有节点。Anthropic没有使用自家的模型,理由是开源替代模型可能带来更高风险。专家表示,这些测试展示了AI驱动恶意软件的一条现实传播路径,并建议立即加强智能设备的安全防护。

为什么重要

除非制造商加强安全防护,否则消费者可能会发现,家中越来越多的智能设备成为自主AI恶意软件的攻击目标。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。