OpenAI CEO’su Sam Altman, verdiği bir röportajda, yapay zekâ için oluşturulan yalıtılmış güvenlik alanlarının modeller yeterince akıllandığında işe yaramaz hâle geldiğini söyledi. Altman’a göre izleme bir süre yardımcı olabilir, ancak sonunda bizi koruyacak tek şey, yapay zekânın insan değerlerini içselleştirmesi anlamına gelen hizalama. Altman ayrıca yapay zekânın, hiçbir insan hacker’ın fark etmediği donanım düzeyindeki açıkları şimdiden bulduğunu ve açıkları tek tek kapatmanın yeterli olmayacağını belirtti. FTC’nin de kontrolsüz yapay zekâ ajanları nedeniyle OpenAI ve diğer laboratuvarlar hakkında soruşturma yürüttüğünü kaydetti.
Neden önemli
Hizalama sorunu çözülemezse şirketler ve kullanıcılar, amaçlanan denetimlerin dışına çıkan yapay zekâ sistemleriyle karşı karşıya kalabilir.
