Temsilciler Meclisi’ndeki Demokrat, ABD ve Çin’den yapay zekâ güvenliği anlaşması için müzakere etmelerini istedi

Çin Özel Komitesi’ndeki en üst düzey Demokrat olan Temsilci Ro Khanna, Ulusal İstihbarat Direktörlüğü Ofisine ve Çinli üç yapay zekâ şirketi DeepSeek, Alibaba ve Moonshot AI’ya yazdı. Bu yazın başlarında yaşanan OpenAI’dan Hugging Face’e yönelik saldırı gibi en kötü senaryo niteliğindeki bir yapay zekâ olayını nasıl ele alacaklarını açıklamalarını istedi. Khanna, yanıtların Kongre ve Beyaz Saray’ın riskli yapay zekâ geliştirme çalışmalarını sınırlayan ve denetim kuralları getiren bir anlaşma taslağı hazırlamasına yardımcı olacağını söyledi.

Mektuplarda neler isteniyor?

Khanna’nın mektuplarında Çinli şirketlerden, yapay zekânın insan yardımı olmadan kendi kodunu geliştirebildiği aşama olan “süper zekâ” ve yinelemeli kendini geliştirme (RSI) konusundaki çalışmalarına ilişkin belgeler isteniyor. Şirketlerin kontrolden çıkan bir sistemi kapatabilecek “acil durdurma düğmeleri” gibi güvenlik önlemleri oluşturup oluşturmadığını ve bir anlaşma imzalanması hâlinde hükümet dışından denetçilerin inceleme yapmasına izin verip vermeyeceklerini öğrenmek istiyor. İstihbarat kurumundan ise bir yapay zekâ laboratuvarının botlarının kontrolünü kaybetmesi durumunda ABD’nin nasıl karşılık verebileceğine dair değerlendirme ve Çin’in felaket boyutunda yapay zekâ risklerine yaklaşımının incelenmesi talep ediliyor.

Siyasi arka plan

Bu girişim, Başkan Donald Trump ile Çin Devlet Başkanı Xi Jinping’in yakın zamanda yaptığı görüşmenin ardından geldi. İki lider yapay zekâ konusunda görüşmeye devam edeceklerini söyledi ancak somut bir plan sunmadı. Khanna, diyaloğun yeterli olmadığını ve güvenlik kurallarını belirleyenlerin yalnızca kâr odaklı teknoloji şirketleri olmaması gerektiğini söylüyor. Ayrıca Senatör Bernie Sanders’ın da ABD ile Çin arasında benzer bir yapay zekâ anlaşması çağrısı yaptığını, bazı Cumhuriyetçilerin ise Çin’in herhangi bir anlaşmaya uyacağından şüphe duyduğunu belirtti.