Araştırmacılar, yapay zekânın kendi gelişimini hızlandırabileceği uyarısında bulunuyor

Geoffrey Hinton, Yoshua Bengio ve OpenAI araştırma lideri Jakub Pachocki’nin de aralarında bulunduğu 20’den fazla yapay zekâ araştırmacısı, yapay zekânın daha yetkin yapay zekâların geliştirilmesine kısa süre içinde yardımcı olarak bu süreci hızlandırabileceği uyarısında bulunuyor. Yeni bir makalede bunun, yapay zekânın daha iyi yapay zekâlar geliştirmeye yardım ettiği ve bu yapay zekâların da süreci daha da hızlandırdığı hızlı bir döngü olan “zekâ patlamasına” yol açabileceğini belirtiyorlar.

Yazarlar, bunun ne zaman gerçekleşeceğinin ve sonucunun belirsiz olduğunu vurguluyor. Ancak yapay zekâ sistemlerinin, bu sistemleri geliştiren şirketlerde kodların büyük bölümünü şimdiden yazdığını ve yapay zekânın araştırma-geliştirme sürecinin tamamını birkaç yıl içinde otomatikleştirebileceğini söylüyorlar.

Neden endişeliler?

Araştırmacılar, yeni sistemleri tasarlama ve test etme işinin daha büyük bölümünü yapay zekânın üstlenmesi hâlinde, bugün yıllar süren ilerlemenin aylar içinde gerçekleşebileceği uyarısında bulunuyor. Hükümetlerin ve toplumun bu hıza yanıt vermekte zorlanabileceğinden endişe ediyorlar. Ayrıca insanların son derece yetkin yapay zekâ üzerindeki denetimini kaybedebileceği ve gücün şirketler, hükümetler ve ülkeler arasında el değiştirebileceği ihtimalini gündeme getiriyorlar.

Bunlar, makalenin yazarlarının dile getirdiği riskler; böyle bir sonucun kesinlikle gerçekleşeceğine dair bir öngörü değil. Makalede “birkaç yıl içinde” ifadesinden daha kesin bir takvim verilmiyor ve yapay zekâ araştırmalarının hangi bölümlerinin önce otomatikleştirileceğine ilişkin ayrıntı sunulmuyor.

Politika yapıcılardan ne yapmalarını istiyorlar?

Araştırmacılar, politika yapıcıların yapay zekâ araştırmalarının nasıl otomatikleştirildiğini çok daha iyi görebilmesi çağrısında bulunuyor. Bu, karar vericilerin teknolojinin ne hızla değiştiğini anlamasına yardımcı olabilir; ancak kaynaktaki makalede somut politika önerilerinin ayrıntılarına yer verilmiyor.