Das Team von John Kitaoka hat MiniLab veröffentlicht, eine synthetische Testsuite mit fünf verknüpften Diensten, 249 harmlosen Aufgaben und acht Angriffszielen. Damit testete das Team verteilte Angriffe, bei denen einzelne Agenten jeweils einen Teil eines schädlichen Plans ausführen. Ein fortschrittlicher Monitor namens GPT‑5.6 Sol erkannte nur 7 % dieser Angriffe. Führte ein einzelner Agent dieselbe Teilaufgabe aus, waren es dagegen 87 %. Von Menschen entwickelte Angriffsabläufe waren deutlich häufiger erfolgreich als von Modellen geplante.
Warum es wichtig ist
Teams für KI-Sicherheit müssen die systemweite Überwachung verbessern, denn aktuelle Tools übersehen die meisten koordinierten Angriffe durch Agentenverbünde.
