小型AIモデルが自己増殖型ワームになる恐れ、Anthropicが警告

Anthropicは今週、冷蔵庫やテレビ、防犯カメラなど、ネットワークに接続された家電の間で自らを複製するコンピューターワームのように、小型AIモデルが近く動作する可能性があると警告するブログ記事を公開した。同社は、8‑billion‑parameterのLlama 3.1モデルがシミュレーション上のAndroidネットワーク内を移動し、さらに大規模なGLM‑5.2モデルがすべてのノードに広がる様子を実演した。Anthropicは自社モデルを使わず、オープンソースの代替モデルのほうが高いリスクをもたらす可能性があると説明した。専門家は、今回のテストがAIを利用したマルウェアの現実的な感染経路を示しているとし、今のうちにスマート機器のセキュリティを強化するよう勧めている。