arXiv'de yayımlanan bir araştırma, stratejik biçimde yerleştirilmiş tek bir web sayfasının web'de arama yapan yapay zekâ sistemlerinin yanıtlarını etkileyebileceğini bildiriyor. Araştırmacılar, güvenilir çevrimiçi bilginin kıt olduğu konulardaki istemlerle ChatGPT, Gemini ve Sonar Pro'yu test etti; istemlerin üslubunu ve saldırganların kontrol edebildiği diğer unsurları değiştirdi.
Test koşullarının tamamında, saldırganların kontrolündeki içerikler yanıtların %31'inde yer aldı. Şüpheci ifadeler içeren istemler başarı oranını bir miktar düşürüp uyarıların sayısını artırdı; ancak araştırmada istem üslubunun veya model seçiminin büyük bir etkisi görülmedi. Makale, genişletilmiş bir sürümünün NDSS Symposium 2027'de sunulması planlanan çalışmaya dayanıyor.
Neden önemli
Güvenilir kaynakların az olduğu konularda bu sistemlerden bilgi alan kişiler, stratejik biçimde yayımlanmış içeriklerle karşılaşabilir. Araştırmaya göre şüpheci ifadeler kullanmak ise yalnızca sınırlı ölçüde koruma sağlıyor.
