James Peters-Gill liderliğindeki bir ekip, ajanların başka ajanları çağırırken güvenilir talimatları güvenilmeyen verilerden ayrı tutan multi-CaMeL protokolünü anlatan makaleyi 6 Ekim 2026’da yayımladı. Yöntem, bir yapay zekâ ajanının gizlenmiş kötü amaçlı komutları izlemesine yol açabilecek dolaylı prompt enjeksiyon saldırılarını önlüyor. Testlerde multi-CaMeL, saldırı başarı oranını %0,0’a düşürdü; tek ajanlı CaMeL’de bu oran %0,2, hiçbir koruma olmadığında ise %12,9 oldu. Protokol performansta küçük bir düşüşe yol açsa da daha büyük dil modelleri kullanıldıkça bu maliyet azalıyor.
Neden önemli
Araç kullanan yapay zekâ asistanları geliştirenler, ajanlar birlikte çalışırken gizlenmiş kötü amaçlı komutları engellemek için multi-CaMeL’e güvenebilir.
