تفيد دراسة منشورة على arXiv بأن صفحة ويب واحدة موضوعة بطريقة مدروسة يمكن أن تؤثر في إجابات أنظمة الذكاء الاصطناعي التي تبحث على الويب. واختبر الباحثون ChatGPT وGemini وSonar Pro باستخدام مطالبات عن موضوعات شحيحة المعلومات الموثوقة على الإنترنت، مع تغيير نبرة المطالبات وعوامل أخرى يتحكم بها المهاجمون.
في ظروف الاختبار، ظهر محتوى يتحكم به مهاجمون في الإجابات بنسبة 31%. وخفّضت المطالبات المتشككة فرص النجاح قليلاً، وزادت التحذيرات، لكن الدراسة لم ترصد تأثيرات كبيرة لنبرة المطالبة أو لاختيار النموذج. والورقة نسخة موسعة من دراسة مقررة للعرض في ندوة NDSS لعام 2027.
لماذا يهم
قد يصادف مستخدمو هذه الأنظمة، عند البحث عن موضوعات تفتقر إلى مصادر موثوقة، مواد منشورة عمداً للتأثير في الإجابات؛ ووجدت الدراسة أن صياغة المطالبات بنبرة متشككة لا توفر سوى حماية محدودة.
