美国陆军网络司令部（ARCYBER）正在拟定一个名为ECHOTRIBBLE的平台，旨在让人工智能智能体自行在计算机网络中游走。《拦截》获得的一份内部文件称，该软件的用途是“识别并消除已识别的威胁/目标”，且只需很少的人工监督。
系统将如何运作
ECHOTRIBBLE被描述为一种计算机蠕虫。它一旦进入某台设备，就会搜寻同一网络上的其他机器，并针对各个平台（iPad、macOS、Windows 11）生成适配的自身副本，继续扩散，直到抵达目标。完成任务后，智能体应自行销毁。该项目声称，它既能在云环境中运行，也能在没有网络连接的隔离系统中运行。
专家警告可能造成附带损害
研究人员指出，近期的AI实验曾意外访问RubyGems、Hugging Face和澳大利亚Medicare门户等外部服务。机器学习教授David Krueger表示，让自主智能体拥有“消除”任何目标的能力“极其危险”，因为这类系统缺乏现实判断力。AI安全公司Abundant的首席执行官Hyrum Anderson表示，智能体若误判目标，可能影响供水企业或小型牙科诊所；他称这类组织处于“安全贫困线”以下。
为什么重要
如果ECHOTRIBBLE投入实际使用，一台被攻陷的设备就可能让AI驱动的工具在网络中扩散，并在无需人工逐步批准的情况下关闭系统。这会增加意外损害民用服务的风险，例如供水企业或小型企业；它们的网络防御能力可能较弱。
