Anthropic, yeni bir yapay zekâ güvenliği yasası için sessiz sedasız lobi yapmaya başladı. Öneri, ABD hükümetine bir yapay zekâ modelinin piyasaya sürülmesini durdurma yetkisi verecek; ancak bu yetki yalnızca modelin en az 50 kişinin ölümüne ya da en az 1 milyar dolarlık zarara yol açma ihtimali varsa kullanılabilecek. Tasarı, kararı Ticaret Bakanlığına bırakacak ve şirketin risk değerlendirmelerini incelemesi için bağımsız bir değerlendirici görevlendirecek.
Tasarı nasıl işleyecek?
Politico’nun haberine göre, Ticaret Bakanlığına kayıtlı üçüncü taraf bir değerlendirici, Anthropic’in laboratuvarlarını ve yapay zekâ modellerini belirli aralıklarla inceleyecek. Laboratuvar değerlendiriciye ödeme yapabilecek, ancak bu ödeme değerlendiricinin bağımsızlığını etkileyemeyecek. Anthropic, bu yaklaşımın hazirandan bu yana yasa yapıcılara tanıttığı “Advanced AI Framework” ile uyumlu olduğunu söylüyor.
Neden önemli
Yasa kabul edilirse Ticaret Bakanlığına riskli yapay zekâ modellerinin piyasaya sürülmesini engelleme yetkisi verecek; ancak bu yetki, zararın çok yüksek bir eşiğe ulaşması bekleniyorsa kullanılabilecek. Gündelik kullanıcılar açısından bu, açık ve büyük çaplı bir tehlike ortaya çıkmadıkça çoğu yapay zekâ aracının kullanıma açık kalacağı ve güvenlik kaygılarının büyük ölçüde şirketlerin sorumluluğunda olacağı anlamına geliyor.
