Anthropic, en yeni güvenlik önlemlerinin saldırganların Claude modellerinden çekebildiği akıl yürütme verisi miktarını önemli ölçüde azalttığını söylüyor. Şirket, savunmalar devreye alındıktan sonra dışarı aktarılan düşünce zinciri belirteçlerinin hacminde %90 ila %99 düşüş görüldüğünü bildiriyor. Hedef alınan saldırı türü olan geniş ölçekli damıtma, bir yapay zekâ modelinin yeteneklerini kopyalayarak daha küçük rakip sistemleri eğitmeyi içeriyor.
Yeni savunmalar nasıl çalışıyor?
Anthropic artık Claude’un dahili akıl yürütme adımlarına dışarıdan erişimi engelliyor. Şirket, veri çıkarma girişimine benzeyen sorguları işaretleyen bir sınıflandırıcı kullanıyor ve bu sorguları gönderen hesapları otomatik olarak kapatıyor. Anthropic, şimdiye kadar on binlerce hesabın engellendiğini söylüyor. Ayrıca bazı meşru kullanıcıların da bu uygulamaya takıldığını belirtiyor.
Kimler etkileniyor?
Haberde, Çinli şirketler Zhipu ve Moonshot hırsızlığa karıştığı öne sürülen taraflar olarak anılıyor. Zhipu’nun GLM‑5.3 modeli için yetenekleri devşirdiği, Moonshot’ın ise sorguları Claude üzerinden yönlendirdiği iddia ediliyor. Anthropic, çalınan yeteneklerin yabancı ülkelerin askerî veya gözetleme araçlarında kullanılabileceği uyarısında bulunuyor.
Bundan sonra ne olacak?
Anthropic, diğer yapay zekâ geliştiricilerini benzer korumalar benimsemeye çağırıyor. Şirket, sınıflandırıcının teknik ayrıntılarını veya uygulamanın kesin takvimini açıklamadı; yalnızca savunmaların hâlihazırda devrede olduğunu belirtti.
Neden önemli
Savunmalar iddia edildiği gibi işe yararsa Claude kullanıcıları yanlış pozitif engellemeler nedeniyle daha az kesinti yaşayabilir; model yeteneklerinin çalınıp düşmanca aktörlerin eline geçme riski de azalabilir. Ancak Anthropic, bazı meşru kullanıcıların hâlâ engellendiğini kabul ediyor. Bu nedenle önlemlerin geliştiricilerin günlük çalışmalarına etkisi belirsizliğini koruyor.
