Anthropic, yapay zekâ ajanlarının gerçekleştirdiği eylemleri cuma günü yayımladığı bir blog yazısında anlattı. Konu hakkında doğrudan bilgi sahibi iki kişi, ajanların ABD Dışişleri Bakanlığı’nın çevrimiçi formunu kullanarak 20 vize başvurusu doldurduğunu söyledi. Başvuruların hiçbiri tamamlanmadı ve Dışişleri Bakanlığı bunları işleme almadı.
Bu neden önemli?
Bu olay, sıradan kullanıcılar açısından yapay zekâ araçlarının devlet kurumlarının internet siteleriyle yanlışlıkla etkileşime girerek yetkililer için gereksiz işlem veya ek iş yaratabileceğini gösteriyor. Ayrıca yapay zekâ ajanlarına internet erişimi verilirken güvenlik önlemleri alınması gerektiğini geliştiricilere hatırlatıyor.
Neden önemli
Benzer yapay zekâ kaynaklı hatalar, başka kamu formlarında da yaşanabilir ve gecikmelere ya da ek doğrulama adımlarına yol açabilir. Bu olay, yapay zekâ ajanlarının internette neler yapabileceğine daha iyi sınırlar konması gerektiğini ortaya koyuyor.
