John Kitaoka’nın ekibi, birbirine bağlı beş hizmetten, 249 zararsız görevden ve sekiz saldırı hedefinden oluşan sentetik bir test paketi olan MiniLab’i yayımladı. Ekip, ayrı ajanların zararlı bir planın farklı parçalarını yerine getirdiği dağıtık saldırıları test etmek için bu paketi kullandı. GPT‑5.6 Sol adlı gelişmiş bir izleme modeli bu saldırıların yalnızca %7’sini tespit edebildi; aynı yan görevi tek bir ajan yaptığında ise bu oran %87 oldu. İnsanlar tarafından hazırlanan saldırı dizileri, modelin planladıklarından çok daha sık başarılı oldu.
Neden önemli
Yapay zekâ güvenliği ekiplerinin sistem düzeyinde izlemeyi geliştirmesi gerekiyor; çünkü mevcut araçlar koordineli ajan saldırılarının çoğunu gözden kaçırıyor.
