Yeni model, yapay zekâ jailbreak saldırılarının çabayla nasıl ölçeklendiğini tahmin ediyor

Bilgisayar bilimci Marco Biroli, 29 Eylül 2026’da arXiv’de “Escaping Alignment: A Physical Trap Model of Best-of-N Jailbreaking” başlıklı bir makale yayımladı. Çalışma, saldırganın iki değişkeni artırmasıyla jailbreak saldırılarının başarı oranının nasıl değiştiğini açıklayan basit bir “bariyer modeli” ortaya koyuyor: istem varyantlarının sayısı (N) ve her varyant başına yanıt sayısı (M). Model, güvenlik mekanizmalarıyla ilişkili yalnızca dört sayı kullanıyor; buna rağmen şimdiye kadar test edilenlerden çok daha büyük ölçekli saldırıların sonuçlarını tahmin edebiliyor.

Yeni model ne yapıyor?

Model, her istemin temel bir güvenlik düzeyi olduğunu varsayıyor ve buna saldırganın yeterince farklı seçenek denemesiyle aşılabilecek rastgele bir “bariyer” ekliyor. Yazarlar, dört sayıyı beş farklı dil modelinden elde edilen verilere uydurarak beş modelin de aynı ölçeklendirme eğrisi üzerinde birleştiğini gösteriyor. Böylece önceki çalışmaların güvenilir biçimde yapamadığı bir şekilde, 100’e kadar istem varyantıyla gerçekleştirilen deneylerden 10.000 varyantlı senaryolara ilişkin tahminler üretebiliyorlar.

Makale ayrıca üretim sıcaklığının (yapay zekâ çıktılarındaki rastgeleliği kontrol eden ayar) saldırı başarısını nasıl etkilediğini de inceliyor. Yazarlar, aynı dört sayıyı kullanarak daha önce hiç test etmedikleri sıcaklık değerlerindeki başarı oranlarını tahmin edebiliyor.

Yapay zekâ güvenliği açısından neden önemli?

Modelin tahminleri doğrulanırsa güvenlik mühendisleri, jailbreak’in olası hâle gelmesi için saldırganın kaç farklı istem denemesi gerekeceğini hesaplayabilir. Bu da herkese açık API’lerde ne kadar isteme izin verileceğine gerçekçi sınırlar koymaya veya şüpheli kalıpları daha sıkı izlemeye yardımcı olur.

Çalışma, saldırı başarısının N ile basit bir kuvvet yasası ilişkisi izlediğini öne süren önceki iddialara da meydan okuyor. Sıcaklığa bağlı, daha incelikli bir eğri ortaya koyarak savunmaların yalnızca deneme sayısını değil, birden fazla etkeni göz önünde bulundurması gerektiğine işaret ediyor.