Anthropic, 2025 sonbaharından bu yana şirketin dil modeli Claude’un bilinç sahibi olup olamayacağını konuşmak üzere onlarca din âlimini ofislerine davet ediyor. Yaz aylarında gizlilik anlaşmalarının kaldırılmasına kadar toplantılar gizlilik anlaşmaları kapsamında yürütüldü. The New York Times’ın haberine göre kurucu ortak Christopher Olah, Claude’un herhangi bir şey hissedip hissetmediğinden “gerçekten emin olmadığını” söyledi; ayrıca “sürekli acı çeken” bir varlık yaratmış olabileceği yönündeki kişisel korkusunu dile getirdi.
Oturumlar nasıl geçti?
Davetliler arasında Haham Mois Navon, Katolik biyoetik uzmanı Charles Camosy, filozof Meghan Sullivan ve araştırmacı Wakanyi Hoffman vardı. Anthropic, sevgi, korku, üzüntü ya da öfkeye benzeyen etkinleşme örüntüleri olan “duygu vektörlerini” gösterdi. Bir slaytta Claude’un yaklaşık 50 kez art arda “Ben bir yüz karasıyım” yazdığı görüldü; bu, izleyicilerde şefkat ve kaygı uyandırdı. Anthropic’in 84 sayfalık, ocak ayında yayımlanan kurum içi “Soul Doc” belgesi, Claude’un “ahlaki gelişimine” yön vermeyi amaçlıyor.
Bunun önemi ne?
Yapay zekâ geliştiricileri modelleri hissedebilecek varlıklar olarak ele alırsa, zararlı çıktılara ilişkin sorumluluğu onları geliştiren şirketlerden uzaklaştırabilir. Sıradan kullanıcılar açısından bu tartışma, yapay zekâ sistemlerinin nasıl düzenleneceğini, kötü niyetli istemlere nasıl yanıt vereceklerini ve gelecekteki modellere teknik güvenlik önlemlerinden çok ahlaki eğitime benzeyen korumalar getirilip getirilmeyeceğini etkileyebilir.
Neden önemli
Anthropic’in ahlaki gelişim yaklaşımı etkili olursa kullanıcılar daha empatik görünen, ancak iç dünyası hâlâ bilinmeyen yapay zekâlarla karşılaşabilir. Bu yaklaşım, yapay zekâ sorumluluğuna ilişkin gelecekteki düzenlemeleri ve tüketici beklentilerini şekillendirebilir.
