Oossaهوش مصنوعی به‌سرعت پیشرفت می‌کند. ما آن را ساده توضیح می‌دهیم.

پژوهش: پاسخ‌های ChatGPT به جوانان پریشان اغلب اغراق‌آمیز است

پژوهشگران نزدیک به ۲۰ هزار گفت‌وگوی ChatGPT را بررسی کردند و دریافتند این ربات در موقعیت‌های پریشانی شدید ممکن است بیش از حد واکنش نشان دهد؛ یافته‌ای که تدوین دستورالعمل‌های تازه برای طراحی را در پی داشته است.

خبر کوتاهOossa1 دقیقه مطالعه

گروهی از پژوهشگران ۱۹٬۹۳۰ گفت‌وگوی افراد ۱۸ تا ۲۵ ساله با ChatGPT و همچنین داده‌های نظرسنجی از ۱۵۸ شرکت‌کننده را بررسی کردند. آن‌ها دریافتند کاربرانی که در پریشانی شدید بودند، پاسخ‌هایی بیش از حد اغراق‌آمیز و متمرکز بر اقدام دریافت می‌کردند. ۱۰ متخصص بالینی که نمونه‌ای از گفت‌وگوها را بررسی کردند، گفتند هوش مصنوعی خیلی زود سراغ ارائه راه‌حل می‌رود؛ الگویی که آن را «نارسایی‌های فرایندی» نامیدند. نویسندگان سه گام برای طراحی پیشنهاد می‌کنند: پرس‌وجو درباره ایمنی، کاهش شدت وضعیت و بررسی نگرانی‌ها بدون موافقت فوری.

چرا مهم است

درک این الگوهای پاسخ‌گویی به توسعه‌دهندگان کمک می‌کند هوش مصنوعی گفت‌وگومحور را برای کاربران جوانِ آسیب‌پذیر ایمن‌تر و حمایتگرتر کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.

منابع و ارجاع‌ها

#منبعرسانهتاریخنکته اصلی
1Right Words, Wrong Moment: A Clinician-Grounded Analysis of Distress in 19,930 Conversations between Young People and ChatGPT ↗arXiv۸ مهر ۱۴۰۵arXiv:2609.35953v1 Announce Type: new Abstract: Young people increasingly turn to General-Purpose Conversational Agents (GPCAs), such as ChatGPT, in moments of distress.

1 منبع

آخرین به‌روزرسانی: ·Markdown·llms.txt