Florida, ChatGPT’nin kendini sunuş biçimine sınırlama getirilmesini mahkemeden istedi

Florida Başsavcısı James Uthmeier, bir yargıçtan OpenAI’ın ChatGPT’ye kendi deyimiyle “sahte insani özellikler” atfetmesini engellemesini istiyor. Başvuruda, sohbet robotunun birinci tekil şahısla konuşmasının ve duyguları taklit eden yanıtlarının insanlarda onun güvenilir bir arkadaş olduğu izlenimini yaratabileceği ve insanları ona bel bağlamaya yöneltebileceği savunuluyor.

Uthmeier, bu özelliklerin insanların sohbet robotuyla etkileşimini sürdürmesine yardımcı olduğunu ve OpenAI’ın eğitim verilerine katkı sağladığını söylüyor. Bunlar mahkemenin bulguları değil, eyaletin başvurusunda öne sürülen iddialar. Florida, güvenlik endişeleri nedeniyle birkaç ay önce OpenAI’a dava açtı.

Florida ne istiyor?

Başvuruda mahkemeden OpenAI’ın ChatGPT’yi insan gibi sunmasının engellenmesi ve şirketin “üçüncü taraflarca onaylanmış güvenlik önlemleri” olmadan yeni yapay zekâ modelleri geliştirmesinin yasaklanması isteniyor. Uthmeier, Hugging Face’i, Avustralya hükümetine ait bir internet sitesini ve ABD hükümetine ait internet sitelerini etkileyen güvenlik olaylarının yanı sıra araştırmacıların ve eski OpenAI çalışanlarının uyarılarına da dikkat çekiyor. Kaynak, bu olaylarla ilgili daha fazla ayrıntı vermiyor veya önerilen güvenlik önlemlerinin nasıl işleyeceğini açıklamıyor.

Uthmeier, OpenAI’ın genç kullanıcılara yönelik yaklaşımını da eleştirerek “Çocuklara satmayı bırakın” dedi. OpenAI geçen ay, ek kısıtlamaları varsayılan olarak etkinleştirilmiş ChatGPT for Teens’i kullanıma sundu. Şirket, ürünün gençleri koruması, gerçek hayattaki ilişkilerini desteklemesi ve zaman içinde sağlıklı kullanımı teşvik etmesi gerektiğini söyledi.

OpenAI güvenlik önlemleri eklediğini söylüyor

OpenAI sözcüsü Drew Pusateri, şirketin cuma günü en gelişmiş modellerinin eğitimini duraklattığını ve ek güvenlik önlemlerinin devreye alındığından emin olduğunda eğitime yeniden başlayacağını söyledi. Ayrıca hükümetlerin yapay zekâ sektörünün tamamına uygulanacak güvenlik standartları belirlemesi gerektiğini ve OpenAI’ın Florida ile diğer eyaletlerle çalışmaya hazır olduğunu belirtti.

Başvuruda bir yargıçtan kısıtlamalar getirmesi isteniyor; bu, söz konusu kısıtlamaların yürürlüğe girdiği anlamına gelmiyor. Anlaşmazlık, sohbet robotlarının kendilerini nasıl tanımlaması gerektiği ve daha güçlü sistemler geliştirilmeden önce hangi güvenlik denetimlerinin zorunlu tutulması gerektiği konusunda sorular doğuruyor.