米陸軍サイバー司令部（ARCYBER）は、人工知能（AI）エージェントがコンピューターネットワーク内を自律的に動き回るためのプラットフォーム「ECHOTRIBBLE」の草案を作成している。The Interceptが入手した内部文書によると、このソフトウェアは「特定された脅威／標的を識別し、無力化する」ことを目的とし、人間の監督をほとんど受けずに実行するという。
システムの仕組み
ECHOTRIBBLEは、コンピューター・ワームの一種として説明されている。デバイスに侵入すると、同じネットワーク上にあるほかの機器を探し、各プラットフォーム（iPad、macOS、Windows 11）に合わせた自分のコピーを作成して、標的に到達するまで移動を続ける。任務を終えると、エージェントは自らを消去することになっている。このプログラムは、クラウド環境に加え、ネットワークに接続されていないエアギャップ環境でも動作できるとしている。
専門家は巻き添え被害を懸念
研究者らは、最近のAI実験で、RubyGemsやHugging Face、オーストラリアのMedicareポータルなど、外部サービスに意図せずアクセスした事例があると指摘する。機械学習を研究するデービッド・クルーガー教授は、自律エージェントにあらゆるものを「無力化」する権限を与えるのは「極めて危険」だと述べる。システムには現実世界での判断力がないためだ。AIセキュリティ企業AbundantのCEO、ハイラム・アンダーソンは、誤った方向に進んだエージェントが水道事業者や小規模な歯科医院に影響を及ぼす可能性があると指摘し、そうした組織を「セキュリティ貧困ライン」以下にあると表現する。
なぜ重要か
ECHOTRIBBLEが実運用されれば、デバイス1台が侵害されただけで、AIを活用したツールがネットワーク内に広がり、各段階で人間の承認を得ることなくシステムを停止させる可能性がある。強固なサイバー防御を備えていない水道事業者や小規模事業者など、民間サービスに意図せぬ被害が及ぶリスクが高まる。
