Oossa

مطالعه: عامل‌های زبانی توانمندتر، داده‌های خصوصی بیشتری افشا می‌کنند

پژوهشگران ۷ عامل زبانی با وزن‌های باز را ارزیابی کردند و دریافتند با افزایش توانایی مدل و طول گفت‌وگو، نشت اطلاعات خصوصی بیشتر می‌شود.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

گروهی به سرپرستی Soumya Sharma بنچمارک تازه‌ای با نام CIMEMORIES DIALOGUE منتشر کردند که شامل 4,410 گفت‌وگوی دوعاملی برای سنجش نشت اطلاعات خصوصی است. آن‌ها این بنچمارک را روی هفت مدل با وزن‌های باز از خانواده‌های Qwen‑3 و Llama‑3.1 اجرا کردند. این مطالعه نشان می‌دهد مدل‌هایی که عملکرد بهتری در انجام وظایف دارند، اطلاعات خصوصی بیشتری هم افشا می‌کنند؛ به‌ویژه هنگام استفاده از پرامپت‌دهی زنجیره‌فکر. با افزایش تعداد نوبت‌های گفت‌وگو از یک به شش، میزان نشت تا سه برابر شد.

چرا مهم است

شرکت‌هایی که از عامل‌های زبانی استفاده می‌کنند، با به‌کارگیری مدل‌های توانمندتر ممکن است با خطرهای بیشتری برای حریم خصوصی روبه‌رو شوند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.