Anthropic, Model Evaluation and Transparency Research (METR) grubundan altı çalışanın kendi kampüsünde, şirketin risk değerlendirme ekipleriyle aynı donanım ve iç sistemleri kullanarak çalışacağını duyurdu. Bu çalışma için ödeme yapılmayacak; METR bulgularını yayımlayabilecek. Ancak Anthropic, müşteri verileri, gizli bilgiler veya model mimarisiyle ilgili ayrıntılar için bazı bölümlerin çıkarılmasını isteyebilecek.
Üçüncü bir kuruluşa neden bu kadar erişim veriliyor?
Bu adım, Anthropic’in şirket değerinin $2 trilyon’u aşmasını beklediği halka arzına hazırlandığı dönemde geldi. Yatırımcılar, güvenlik risklerinin kontrol altında olduğuna dair kanıt istiyor. Anthropic, METR çalışanlarını bünyesine alarak modellerinin çalışanlarca yürütülüyormuş gibi şeffaf biçimde denetlendiğini göstermeyi umuyor. Bu yaklaşım, bankaların riskli davranışlar halka zarar vermeden önce düzenleyicilerin bunları incelemesine izin vermesine benziyor.
Neden önemli
Tüketiciler açısından ek denetim, şirket halka açıldıktan sonra güvensiz model davranışlarının ürünlere sızma olasılığını azaltabilir. Düzenleyicilere de riskleri değerlendirmek için daha somut veriler sunar; ancak denetimin ne kadar etkili olacağı henüz belli değil.
