Anthropic’in eski çalışanlarının yapay zekâ risklerine karşı uzak bölgelerde arazi planlarını değerlendirdiği bildiriliyor

The Wall Street Journal’ın haberine göre, Anthropic’te en uzun süredir çalışanlardan bazıları, yapay zekâ “ters giderse” taşınabilmek için ABD’nin uzak bölgelerinde arazi satın almayı görüştü. Konuşmaların son birkaç haftada gerçekleştiği, sektörden bir meslektaşıyla konuşan kişilere dayandırılıyor. Haberde herhangi birinin arazi satın aldığı ya da bir yer belirlediği söylenmiyor.

Uzak bir bölgeye gitme fikri, yapay zekâ alanındaki bazı kişiler arasında yıllardır konuşuluyor. Eski Anthropic çalışanları, şirketin ilk dönemlerinde verilen yemeklerde Manhattan Projesi benzeri bir girişimin gündeme geldiğini anlattı: Araştırmacılardan çöle taşınmaları ve elektromanyetik sinyallere karşı korunan bir devlet tesisinde yapay zekâ geliştirmeyi sürdürmeleri istenebilirdi.

Derinlere uzanan bir endişe

Haberde, Anthropic ve OpenAI’ın ilk çalışanlarından bazılarının, insanları büyük ölçekli sorunları kanıt ve akıl yürütmeyle ele almaya teşvik eden Etkili Özgecilik hareketiyle bağlantısı olduğu belirtiliyor. Ayrıca, felaket risklerini yıllardır değerlendiren bir Bay Area çevresinden söz ediliyor. Yapay zekâ başlıca kaygıları hâline gelmeden önce bu riskler arasında asteroit çarpmaları ve süpervolkanlar da vardı.

Bu çevrenin etkili isimlerinden biri, 2000’lerin ortalarında denetimsiz yapay zekânın tehlikeleri konusunda uyarılara başlayan Eliezer Yudkowsky. Görüşleri, yapay zekânın yol açabileceği ağır zarar ihtimalini ciddiye alan bir topluluğun şekillenmesine yardımcı oldu. Haberde aktarılan arazi görüşmeleri, bu topluluktan bazılarının kişisel acil durum planlarını nasıl düşündüğüne bir örnek. Ancak haberde kaç çalışanın bu görüşmelere katıldığına ya da bundan sonra ne yapabileceklerine dair ayrıntı verilmiyor.