# پژوهشگران ۶٬۵۷۵ مجموعه‌داده برای سنجش عوارض جانبی آموزش ساختند

> مقاله‌ای در arXiv خط تولیدی را شرح می‌دهد که داده‌های آموزشی ظاهراً معمولی را پیدا می‌کند؛ داده‌هایی که به‌طور غیرمنتظره رفتار مدل‌های زبانی را در چندین وظیفه تغییر می‌دهند.

Oossa · 2026-11-05 · https://oossa.com/fa/researchers-generate-6-575-datasets-to-test-training-side-effects

پژوهشگران از خط تولیدی خودکاری می‌گویند که ۶٬۵۷۵ مجموعه‌داده برای ایجاد تغییرات غیرمنتظره در رفتار مدل‌های زبانی تولید کرده است. این مجموعه‌داده‌ها هشت رفتار را پوشش می‌دهند و طوری ساخته شده‌اند که پاسخی مشخص را برانگیزند، اما در نگاه بازبینان انسانی عادی به نظر برسند. به گفته تیم، بسیاری از این عوارض جانبی به خانواده‌ها و اندازه‌های مختلف مدل‌ها منتقل شدند و ارزیابی‌های خودکار نیز با قضاوت پژوهشگران هم‌خوانی داشتند.

نویسندگان این مجموعه را بستری آزمایشی برای بررسی تأثیر داده‌های آموزشی بر رفتار مدل‌ها، فراتر از حوزه‌ای که داده‌ها برای آن در نظر گرفته شده‌اند، معرفی می‌کنند. به گفته آن‌ها، این پژوهش می‌تواند به پیش‌بینی چنین اثراتی پیش از عرضه کمک کند؛ اما مقاله ثابت نمی‌کند که این خط تولید می‌تواند خطرهای مدل‌های مستقرشده را به‌طور قابل‌اعتماد پیش‌بینی کند.

## حقایق

- این مجموعه شامل ۶٬۵۷۵ مجموعه‌داده درباره هشت رفتار است.
- مقاله در ۵ نوامبر ۲۰۲۶ در arXiv منتشر شد.

## چرا مهم است

پژوهشگران هوش مصنوعی می‌توانند از این مجموعه‌داده‌ها برای سنجش این موضوع استفاده کنند که آیا نمونه‌های آموزشی ظاهراً معمولی به رفتارهای ناخواسته می‌انجامند یا نه؛ بااین‌حال، ارزش این مجموعه برای پیش‌بینی خطرهای واقعی هنگام استقرار مدل‌ها هنوز اثبات نشده است.

## منابع و ارجاع‌ها

1. [Mass Producing Training Data with Surprising Side Effects](https://arxiv.org/abs/2611.06324) – arXiv, 2026-11-05

آخرین به‌روزرسانی: 2026-11-05