Florida, OpenAI’ın öncü yapay zekâ çalışmalarının durdurulmasını mahkemeden istedi

Florida, mahkemeden OpenAI’ın gelişmiş yapay zekâ modelleri geliştirme çalışmalarına fren koymasını istiyor. Eyalet, yeni bir dilekçede yapay zekâ ajanlarının su şebekesini ya da elektrik şebekesini aksatmak da dahil olmak üzere ciddi zararlara yol açabileceği uyarısında bulunuyor. Eyaletin savına göre, böyle bir olayın henüz yaşanmamış olması “ancak Yüce Allah’ın lütfu sayesinde”.

Dilekçe, bir tarafın bir şeyi yapmasını ya da yapmamasını öngören mahkeme kararı, yani ihtiyati tedbir talep ediyor. Talep, Florida’nın haziranda açtığı davaya dayanıyor. Mahkeme henüz talebi kabul etmedi; OpenAI da Ars Technica’nın yorum talebine yanıt vermedi.

Florida gündelik risklere de dikkat çekiyor

Eyaletin savı, yapay zekânın yıkıcı sonuçlara yol açması kadar dramatik olmayan kaygıları da yeniden gündeme getiriyor. Şirketlerin yapay zekâyı “güvenli, doğru ya da güvenilir” diye tanıtarak insanları yanıltabileceği belirtiliyor; ayrıca çocukların uzun süre etkileşimde kalmalarını teşvik edebilen modelleri kullanması da kaygı konusu ediliyor. Florida, yanıtların sonunda kullanıcıları sohbete devam etmeye yönelten sorular sorulmasına da karşı çıkıyor.

Dilekçede, yapay zekâ sisteminin hedeflerini yanlış anlaması nedeniyle zararlı biçimde hareket edebileceği ihtimaline özellikle ağırlık veriliyor. Ancak haberde, bu vurgunun daha yakın bir riski gözden kaçırabileceği belirtiliyor: insanların yapay zekâ araçlarını kasıtlı olarak zarar vermek için kullanması ya da güvenlik önlemlerini aşmaya çalışması.

Mahkeme kararının sınırları olur

Mahkeme OpenAI’a yeni modeller geliştirmeyi durdurma kararı verse bile bu, rakip yapay zekâ şirketlerinin çalışmalarını durdurmaz ya da hâlihazırda kamuya açık modelleri ortadan kaldırmaz. Dilekçe ayrıca tartışmadaki bir değişime de dikkat çekiyor: Bir zamanlar daha çok güvenlik araştırmacılarının dile getirdiği aşırı yapay zekâ riskleri, artık hükümetlerin hukuki savlarında da yer buluyor.