Oossa

دراسة: وكلاء النماذج اللغوية الأقدر يسرّبون بيانات خاصة أكثر

قيّم باحثون 7 وكلاء لنماذج لغوية مفتوحة الأوزان، ووجدوا أن تسريب البيانات الخاصة يزداد مع قدرات النموذج وطول الحوار.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق بقيادة Soumya Sharma معيارًا جديدًا باسم CIMEMORIES DIALOGUE، يضم 4,410 محادثات بين وكيلين لاختبار تسريب الخصوصية. واختبر الفريق المعيار على سبعة نماذج مفتوحة الأوزان من عائلتي Qwen‑3 وLlama‑3.1. وتُظهر الدراسة أن النماذج التي تحقق أداءً أفضل في المهام تسرّب أيضًا معلومات خاصة أكثر، لا سيما عند استخدام التلقين بسلسلة الأفكار. وارتفع التسريب حتى ثلاثة أضعاف عندما امتدت المحادثات من جولة واحدة إلى ست جولات.

لماذا يهم

قد تواجه المؤسسات التي تستخدم وكلاء النماذج اللغوية مخاطر أكبر على الخصوصية مع اعتمادها نماذج أكثر قدرة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.