Anthropic, sohbet botu Claude’un kullanım politikasını bir yılı aşkın süredir ilk kez değiştirdi. Yeni kurallar, kullanıcıların açık bir amaç olmaksızın modele tekrar tekrar acımasız davranmasını yasaklıyor. Şirket, bu kuralı uygulamanın başlıca yolunun sohbeti sonlandırmak olacağını, ancak ileride hesapları yasaklamak gibi başka önlemler de alabileceğini söylüyor. Güncelleme ayrıca Claude’un silah, gözetim ve yanıltıcı siyasi ya da ticari kampanyalarda kullanılmasına yönelik mevcut kısıtlamaları da sıkılaştırıyor.
Yeni kurallar neleri kapsıyor?
Politika, daha önce ayrı ayrı yer alan bazı kısıtlamaları artık yanıltıcı kampanyalara yönelik tek bir yasak altında topluyor. Bir mesajın arkasındaki kişiyi ya da kurumu gizleme, sahte hesaplarla içeriğin erişimini artırma veya seçimlerle ilgili yanlış bilgi yayma girişimlerini engelliyor. Silahlarla ilgili madde artık silahların çalışmasını sağlayan yazılımları da kapsıyor; buna insansız hava araçlarının ve diğer otonom araçların silahlandırılması da dahil. Gözetimle ilgili sınırlar da netleştirildi: Claude, insanları rızaları olmadan takip etmek veya kolluk kuvvetlerinin kimin tutuklanacağına karar vermesine yardımcı olmak için kullanılamaz.
Anthropic ayrıca Claude’un kontrol edebileceği donanımlara yönelik bir güvenlik maddesi ekliyor. Yapay zekâ yaralanmaya yol açabilecek makinelere bağlandığında, nitelikli bir operatörün ekipmanı izleyebilmesi ve durdurabilmesi gerekiyor.
Bu değişiklik neden önemli?
Anthropic, yeni politikanın Claude’a silah kontrolü için kod yazdırmak veya siyasi muhalifleri belirlemek gibi artan kötüye kullanım girişimlerini yansıttığını söylüyor. Şirket, daha katı sınırlar belirleyerek bu riskleri azaltmayı ve gelecekteki yapay zekâ-donanım projeleri için daha net bir standart oluşturmayı umuyor.
Neden önemli
Gündelik kullanıcılar açısından bu değişiklik, Claude’un tekrar tekrar düşmanca davranılan sohbetleri sonlandıracağı anlamına geliyor. Böylece modelin nefret içeren ya da zararlı amaçlarla istismar edilme ihtimali azalabilir. Değişiklik, yapay zekânın tehlikeli projelerde kullanımına daha sıkı sınırlar getirildiğini de gösteriyor; bu da yapay zekâ tarafından üretilen yanlış bilgilerin veya silahla ilgili içeriklerin kamuya ulaşma riskini azaltabilir.
