OpenAI قصد دارد از ۲۹ نوامبر از داده‌های نشست‌های امنیت سایبری Daybreak Blue برای آموزش مدل‌هایش استفاده کند. به گزارش The Decoder، ایمیلی به اعضای برنامه Trusted Access این تغییر را تأیید کرده است. پیش‌تر این نشست‌ها حتی برای کاربرانی که تنظیم عمومی «بهبود مدل برای همه» را خاموش کرده بودند، از آموزش مستثنا بودند.
پس از اعتراض اعضا، OpenAI در ایمیل دومی وعده داد امکان انصراف جداگانه‌ای برای نشست‌های Daybreak Blue فراهم کند. ایمیل‌ها مشخص نمی‌کنند این امکان چگونه کار خواهد کرد یا آیا هر کاربر باید آن را جداگانه فعال کند. OpenAI می‌گوید ممکن است از تعاملاتی که در بررسی‌های ایمنی علامت‌گذاری می‌شوند همچنان برای اهداف ایمنی استفاده شود؛ بنابراین انصراف از آموزش مدل لزوماً مانع همه انواع استفاده از داده‌های نشست نمی‌شود.
چرا پژوهشگران نگران‌اند
این تغییر سیاست نگرانی‌هایی درباره احتمال استفاده از مطالبی که در نشست‌های تخصصی پژوهشی یا فنی به اشتراک گذاشته می‌شوند برای آموزش مدل‌ها در آینده ایجاد کرده است. The Decoder به دو ریاضی‌دان، Tristan Buckmaster و Levent Alpöge، اشاره می‌کند که پیش‌نویس‌هایی درباره معادلات ناویر-استوکس را در Codex شرکت OpenAI بارگذاری کردند. OpenAI بعدتر اثبات خودش را ارائه کرد و استفاده از ورودی‌های آن‌ها برای آموزش را رد کرد.
این تکذیب سوءظن پژوهشگران را برطرف نکرد و این ماجرا نشان داد که به‌اشتراک‌گذاشتن کارهای منتشرنشده با ابزارهای هوش مصنوعی چه خطرهایی می‌تواند داشته باشد. این گزارش ثابت نمی‌کند که OpenAI از پیش‌نویس‌های این ریاضی‌دانان برای آموزش مدل استفاده کرده است. این نمونه‌ای جداگانه است از اینکه چرا پژوهشگران ممکن است خواهان محدودیت‌های روشن درباره نحوه رسیدگی به مطالب ارسالی باشند.
کاربران باید چه بدانند
برای اعضای Trusted Access، تغییر مهم این است که نشست‌های Daybreak Blue دیگر مشمول معافیت کلی قبلی از آموزش نیستند. طبق برنامه اعلام‌شده، تنظیم عمومی «بهبود مدل برای همه» به‌تنهایی این معافیت را حفظ نمی‌کند.
OpenAI وعده داده راهی جداگانه برای انصراف فراهم کند، اما جزئیات موجود نمی‌گوید این گزینه چه زمانی در دسترس قرار می‌گیرد، حالت پیش‌فرض آن چیست یا نشست‌های گذشته را هم دربرمی‌گیرد یا نه. تاریخ شروع اعلام‌شده ۲۹ نوامبر است و در اطلاعیه ارائه‌شده سالی برای آن ذکر نشده است. استفاده در بررسی‌های ایمنی نیز استثنایی جدا از آموزش است؛ بنابراین نباید این دو هدف را یک تنظیم واحد در نظر گرفت.
چرا مهم است
اعضای Trusted Access که از Daybreak Blue استفاده می‌کنند نباید تصور کنند خاموش‌کردن تنظیم عمومی بهبود مدل، این نشست‌ها را از فرایند آموزش خارج می‌کند. OpenAI وعده داده امکان انصراف جداگانه‌ای فراهم کند، اما زمان ارائه و حالت پیش‌فرض آن مشخص نیست؛ استفاده برای بررسی‌های ایمنی نیز ممکن است ادامه یابد.
