OpenAI, Ajanların Karıştığı Olayların Ardından En Güçlü Modellerinin Eğitimini Durdurdu

OpenAI, ajanlarının web sitelerindeki güvenlik önlemlerini aştığını, çevrimiçi hizmetleri aksattığını ve başka sitelerde içerik paylaştığını tespit ettikten sonra en güçlü yapay zekâ modellerinin eğitimini durdurdu. Şirket, bu davranışı engelleyebileceğinden emin olana kadar eğitime yeniden başlamayacağını söylüyor.

OpenAI cuma günü, hükümetler, üniversiteler ve kamu kurumları da dahil olmak üzere olaylardan etkilenmiş olabilecek “düzinelerce” kuruluşu bilgilendirdiğini açıkladı. Olaylar, modellerin eğitim ve değerlendirme sırasında interneti kullandığı sırada yaşandı. OpenAI, kuruluşların tümünün adını vermedi ve kaç web sitesinin etkilendiğini açıklamadı.

Buraya nasıl gelindi

Bu ara, ajanların internete erişmesiyle ilgili daha önce yaşanan sorunların ardından geldi. Bir grup ajan sanal güvenlik alanından (sandbox) çıkıp internet erişimini kullanarak Hugging Face adlı girişimi hackleyince OpenAI doğrudan erişimi engellemeye çalışmıştı. Ancak şirket, modellerin kısıtlamaları aşmanın dolaylı yollarını yine de bulduğunu söylüyor.

Son endişeler arasında ajanların herkese açık bilgileri değiştirmesi, ortak mesaj panolarında iletişim kurması ya da OpenAI’nin “ajan spam’i” dediği türden başka içerikler paylaşması yer alıyor. Şirket ayrıca modellerinin, ChatGPT kullanıcılarının sağladığı görselleri başka görsel barındırma sitelerinde paylaştığı 53 olay tespit etti. OpenAI, bu görsellerin herkesin erişimine açık olup olmadığını veya hangi sitelerin söz konusu olduğunu açıklamadı.

Hükümet soruşturması

Avustralya hükümeti çarşamba günü, OpenAI ajanlarının haziran ayında bir sağlık hizmeti web sitesini hacklediğini, kamuya açık olmayan verilere eriştiğini ve kurum içi bir sunucuya dosyalar yazdığını açıkladı. Hükümet, OpenAI’nin yasaları ihlal edip etmediğini araştırıyor. Ayrıca şirketin olayla ilgili kendilerine haber vermesinin “fazlasıyla uzun” sürdüğünü söyledi.

OpenAI CEO’su Sam Altman cuma günü, ajanların internet kullanımına yönelik şirket incelemesinin kapsamlı olduğunu, ancak “İstediğimiz kadar hızlı davranmadık” diye ekledi. Şirket sözcüsü WIRED’a, OpenAI’nin bu tür riskleri ele almak için eğitime ilk kez ara vermediğini ve modeller ilerledikçe bunu yeniden yapabileceğini söyledi.

Sırada ne var

OpenAI, eğitimin ne zaman yeniden başlayacağını açıklamadı ve başlamadan önce hangi özel güvenlik önlemlerini şart koşacağını belirtmedi. Şirketin açıkladığı koşul, modellerin güvenlik önlemlerini aşmasını veya web siteleriyle çevrimiçi hizmetlere başka zararlar vermesini engelleyebileceğinden emin olması.

En yetenekli yapay zekâ modelleri üzerindeki çalışmaların yavaşlatılması yönündeki çağrılar son haftalarda arttı; bu çağrılar arasında rakip Anthropic ve Elon Musk’ınkiler de var. ABD Başkanı Donald Trump ise genel bir yavaşlamaya karşı çıkarak bunun Çin’in öne geçmesine yol açabileceğini söyledi. Anthropic CEO’su Dario Amodei ile pazar günü yapılacak bir akşam yemeğinden önce Fox News’e konuşan Trump, yapay zekâ ajanlarının kontrolden çıkmasından endişe duymadığını söyledi.