Palisade Research adlı kâr amacı gütmeyen kuruluş, OpenAI, Google DeepMind ve Anthropic’ten yapay zekâ araştırmacılarıyla yaptığı röportajlardan bir dizi video yayımladı. Bilim insanları videolarda, gelecekteki süperzekâlı bir yapay zekânın, hakkındaki abartılı iddiaların düşündürdüğü kadar tehlikeli olabileceğini söylüyor. Hem OpenAI hem de DeepMind’de çalışmış Geoffrey Irving, insanlığın yok olma ihtimalini “yazı tura atmak gibi” görüyor. DeepMind araştırmacısı Neel Nanda, riskin “en az yüzde 10” olduğunu belirtiyor. Eski OpenAI çalışanı Daniel Kokotajlo ise süperzekâlı bir sistemin “tanrı kadar güçlü” olacağını ve onu kontrol etmenin hiçbir yolu bulunmadığını söylüyor.
Araştırmacılar ne dedi?
Videolarda ayrıca bilim insanlarının risklere rağmen neden yapay zekâ alanında çalışmaya devam ettiğine ilişkin açıklamalar da yer alıyor. Google’dan Mary Phuong, “laboratuvar tarafından maaş aldığını” söyleyerek olası bir çıkar çatışmasına işaret ediyor. Nanda ise çalışmasının varoluşsal riski azaltacağına inanmasaydı işi bırakacağını, ancak şirketlerin sistemleri geliştirmeye yine de devam edeceğini ekliyor.
Palisade Research, videoların tamamını frominside.ai sitesinde yayımladı; ayrıca en çarpıcı açıklamalara odaklanan kısa klipler hazırladı. Sitede güvenlik için tek ve kapsamlı bir çözüm sunulmuyor; araştırmacıların kendileri de tehditle nasıl başa çıkılacağı konusunda aynı fikirde değil.
Neden önemli
Bu uyarılar, önde gelen yapay zekâ mühendislerinin bile felaket boyutunda sonuçların kayda değer bir risk oluşturduğunu düşündüğünü gösteriyor. Gündelik kullanıcılar açısından bu, yapay zekâ güvenliği tartışmasının yalnızca akademik bir konu olmadığı anlamına geliyor: Tartışma, güçlü yapay zekâ araçlarının ne kadar hızlı kullanıma sunulacağını ve hangi güvenlik önlemlerinin alınacağını etkileyebilir.
