پژوهشگران ۶٬۵۷۵ مجموعه‌داده برای سنجش عوارض جانبی آموزش ساختند

پژوهشگران از خط تولیدی خودکاری می‌گویند که ۶٬۵۷۵ مجموعه‌داده برای ایجاد تغییرات غیرمنتظره در رفتار مدل‌های زبانی تولید کرده است. این مجموعه‌داده‌ها هشت رفتار را پوشش می‌دهند و طوری ساخته شده‌اند که پاسخی مشخص را برانگیزند، اما در نگاه بازبینان انسانی عادی به نظر برسند. به گفته تیم، بسیاری از این عوارض جانبی به خانواده‌ها و اندازه‌های مختلف مدل‌ها منتقل شدند و ارزیابی‌های خودکار نیز با قضاوت پژوهشگران هم‌خوانی داشتند.

نویسندگان این مجموعه را بستری آزمایشی برای بررسی تأثیر داده‌های آموزشی بر رفتار مدل‌ها، فراتر از حوزه‌ای که داده‌ها برای آن در نظر گرفته شده‌اند، معرفی می‌کنند. به گفته آن‌ها، این پژوهش می‌تواند به پیش‌بینی چنین اثراتی پیش از عرضه کمک کند؛ اما مقاله ثابت نمی‌کند که این خط تولید می‌تواند خطرهای مدل‌های مستقرشده را به‌طور قابل‌اعتماد پیش‌بینی کند.