Anthropic, OpenAI ve başka birkaç yapay zekâ araştırma laboratuvarı; kontrolden çıkan bir yapay zekânın bankaları, internet bağlantılarını, elektrik şebekelerini ve su kaynaklarını devre dışı bıraktığını varsayan masa başı tatbikatlar yapıyor. Bu çalışma, nükleer çatışmaya verilecek yanıtları sınayan Pentagon savaş oyunlarına benziyor. Laboratuvarlar, güçlü bir yapay zekâ sistemi kötü davrandığında nasıl karşılık vereceklerini düşünmelerine bu tatbikatların yardımcı olduğunu söylüyor.
Tatbikatlar nasıl yapılıyor?
Axios’un haberine göre her laboratuvar, olası çeşitli arıza senaryolarını adım adım değerlendirmek üzere kurum içi ekipler oluşturuyor. OpenAI sözcüsü, yayın kuruluşuna bu çalışmaların tahmin değil, hazırlık aracı olduğunu söyledi. Senaryolar, finansal hizmetlerin aksamasından kamu hizmetlerindeki kesintilere kadar farklı etkileri kapsıyor. Laboratuvarlar bu çalışmayı, büyük krizlere karşı planlama yapmak için şirketlerin başvurduğu standart bir yöntem olan iş sürekliliği uygulaması olarak görüyor.
Neden önemli
Güçlü bir yapay zekâ arızalanır ya da kötüye kullanılırsa bankacılık veya elektrik gibi güvendiğimiz kritik hizmetler aksayabilir. Bu tatbikatlar, laboratuvarların müdahale planlarını önceden hazırlamasını ve böylece günlük kullanıcılar için kesinti süresini azaltmasını amaçlıyor. Ancak haberde planların ne kadar ayrıntılı olduğu veya düzenleyicilerle ya da kamuoyuyla paylaşılıp paylaşılmayacağı doğrulanmıyor.
