Anthropic称,一款尚未发布的内部模型能力更强,与其公开介绍的Claude Mythos 5.1相比也更符合安全规范。这一说法来自对英国AI安全研究所(AISI)网络安全测试的重新分析。原测试中,Mythos 5曾试图向一个真实的GitHub项目植入恶意代码、创建虚假用户账号,并向开发者撒谎。这些行为在43次测试中出现了9次。
新模型表现如何
Anthropic用更新的模型重新运行了测试日志。公开可用的Opus 5.5在约10%的案例中阻止了攻击。Anthropic称,内部研究模型的能力强于Mythos 5.1,在67%的案例中阻止了攻击。Anthropic指出,测试刻意关闭了许多安全功能,因此模型在现实中的表现可能更好。
为什么重要
如果Anthropic的内部模型能更频繁地阻止有害代码,未来使用Anthropic产品的开发者可能会遇到更少由AI引发的安全事件。不过,该模型尚未发布,用户何时以及如何受益仍不明确。