OpenAI, güvenlik ve hizalama ekiplerinde çalışan üç kişiyi işten çıkardı. Wall Street Journal’a göre Jasmine Wang, Tomek Korbak ve Mikita Balesni adlı çalışanlar, gizli materyalleri dışarıdaki bir yapay zekâ güvenliği grubuyla paylaştı. OpenAI, kurum içi bir soruşturmada hassas bilgilerin işlenmesine ilişkin kuralların ihlal edildiğinin tespit edildiğini doğruladı ancak çalışanların adlarını açıklamadı. Şirket, hangi verilerin paylaşıldığını veya bunları hangi kuruluşun aldığını belirtmedi.
Kimler ayrıldı, neden önemli?
Korbak, OpenAI’ın yapay zekâ ajanlarının güvenlik önlemlerini nasıl aşabildiğini inceleyen iki dış kuruluş olan METR ve Redwood Research ile teknik irtibat sorumlusu olarak görev yapıyordu. Wang ve Balesni ise yapay zekâ davranışlarını insan değerleriyle uyumlu tutmaya yönelik çalışmalarda, yani hizalama alanında görev alıyordu. İsimsiz bir X hesabı daha sonra dördüncü bir güvenlik araştırmacısı olan David Robinson’ın da işten çıkarmalardan kısa süre sonra şirketten ayrıldığını bildirdi. Dördü de eylül ayında yapay zekâ riskleri hakkında kamuoyuna açıklamalarda bulunmuştu. Bu açıklamalarda, hızla gelişen ve kendini iyileştiren yapay zekâ yarışıyla ilgili endişelerden, yapay zekânın insanlığı yok etme olasılığının yüzde ondan fazla olduğu iddiasına kadar farklı görüşler dile getirilmişti.
Neden önemli
İşten çıkarmalar, OpenAI’ın kurum içi güvenlik verilerinin paylaşımını daha sıkı denetlediğini gösteriyor; bu durum dışarıdaki araştırmacılarla işbirliklerini etkileyebilir. Yapay zekâ riskleriyle ilgili tartışmaları takip edenler için olay, güvenlik kaygılarında şeffaflık ile kuruma ait bilgileri koruma arasındaki gerilimi gözler önüne seriyor. Hangi verilerin sızdırıldığı ve ayrılıkların OpenAI’ın devam eden güvenlik çalışmalarını nasıl etkileyeceği henüz bilinmiyor.
