Anthropic, “yakın bir felaket riski” tespit edildiğinde ABD Ticaret Bakanlığı’nın bir yapay zekâ modelinin dağıtımını durdurmasına izin verecek bir yasa taslağını Kongre’ye sundu. Tasarı, bu riski 50’den fazla kişinin ölümüne veya 1 milyar doları aşan maddi hasara yol açabilecek durumlar olarak tanımlıyor. Tehlikenin biyolojik bir silahtan, modelin denetiminden çıkmasından ya da bir siber saldırıdan kaynaklanması gerekiyor.
Tasarı nasıl işleyecek?
Öneri, modelin riskini değerlendirmek üzere Ticaret Bakanlığı’na kayıtlı “bağımsız değerlendiriciler” görevlendirilmesini öngörüyor. Değerlendiricilere yapay zekâ laboratuvarları ödeme yapabilecek ancak bu ödeme, değerlendirmenin sonucuna bağlı olamayacak. Bir değerlendirici risk tespit ederse 72 saat içinde Ticaret Bakanlığı’nı bilgilendirecek. Bakanlık da modelin piyasaya sürülmesini durdurma kararı çıkarması için Washington D.C.’deki bir hâkime başvurmak zorunda olacak. Tasarı, herhangi bir federal kurumun modeli tek başına durdurmasını yasaklıyor.
Sektörün tepkisi
Anthropic, tasarının haziran ayından bu yana yasa yapıcılara tanıttığı Advanced AI Framework yaklaşımını yansıttığını söylüyor. Şirket konu hakkında başka bir açıklama yapmadı. Diğer yapay zekâ şirketleri zorunlu denetim yerine gönüllü şirket içi gözetim mekanizmalarını savunurken Nvidia CEO’su sektörün yeni yasalara ihtiyacı olmadığını öne sürdü.
Neden önemli
Tasarı yasalaşırsa ciddi güvenlik tehditleri taşıyan yapay zekâ sistemlerinin piyasaya sürülmesini engelleyebilir ve aşırı zarar risklerine karşı kamuoyuna yasal bir güvence sağlayabilir. Geliştiriciler açısından ise güçlü modelleri kullanıma sunmadan önce yeni bir uyum süreci anlamına gelir. Değerlendirmelerin ne ölçüde bağımsız olacağı ve mahkemelerin uygulamada ne kadar hızlı hareket edebileceği henüz belirsiz.
