Oossa

اخراج سه پژوهشگر ایمنی از OpenAI به‌دلیل افشای اطلاعات

OpenAI می‌گوید تحقیقاتش از نقض سیاست‌های مربوط به اطلاعات حساس حکایت دارد. این شرکت نام کارکنان یا نوع اطلاعات را اعلام نکرده است.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 2 دقیقه مطالعه

krakenimages · Unsplash

OpenAI پس از آن‌که تحقیقات داخلی‌اش نشان داد سه کارمند اطلاعات حساس شرکت را نادرست مدیریت کرده‌اند، آن‌ها را اخراج کرد. این شرکت به The Wall Street Journal و The Register گفته است که کارکنان ظاهراً مطالب محرمانه‌ای را با یک سازمان بیرونیِ فعال در حوزه ایمنی هوش مصنوعی در میان گذاشته‌اند. OpenAI اعلام کرد آن‌ها قوانین دسترسی به اطلاعات و نحوه مدیریت آن را نقض کرده و خارج از رویه‌های تعیین‌شده عمل کرده‌اند.

نام کارکنان و سازمان بیرونی اعلام نشده و OpenAI نیز نگفته است چه اطلاعاتی در میان بوده است. گزارش‌ها درباره سمت کارکنان یکسان نیستند: TechCrunch و SiliconANGLE هر سه نفر را پژوهشگر ایمنی معرفی کرده‌اند، اما The Register می‌گوید دو نفر پژوهشگر ایمنی و یک نفر مدیر برنامه بوده‌اند. The Register همچنین گزارش داده که OpenAI گفته اخراج‌ها تلافی‌جویانه و در واکنش به مطرح‌کردن نگرانی‌های مربوط به ایمنی هوش مصنوعی نبوده است. TechCrunch می‌گوید مشخص نیست کارکنان پیش از افشای ادعایی، نگرانی‌های خود را از مسیرهای داخلی مطرح کرده بودند یا نه.

چرا اخراج‌ها زیر ذره‌بین رفته‌اند

این اخراج‌ها پس از آن صورت می‌گیرند که رویه‌های ایمنی OpenAI در هفته‌های اخیر زیر ذره‌بین رفته‌اند. The New York Times اوایل هفته گزارش داد کارکنان درباره ایمنی به مدیران ارشد هشدار داده بودند و برخی احساس می‌کردند این هشدارها نادیده گرفته شده است. OpenAI به این روزنامه گفت نگرانی‌های امنیتی را جدی می‌گیرد و کانال‌های داخلی برای گزارش آن‌ها دارد، هرچند پذیرفت که باید سریع‌تر عمل کند.

این ماجرا همچنین هم‌زمان با گزارش‌هایی درباره مشکلات مربوط به عامل‌های هوش مصنوعی OpenAI است؛ نرم‌افزارهایی که می‌توانند اقداماتی را به‌صورت آنلاین انجام دهند. The Register می‌گوید OpenAI بیش از 100 سازمان را از فعالیت عامل‌ها مطلع کرده که نیازمند اطلاع‌رسانی بوده است؛ اما تماس با یک سازمان لزوماً به این معنا نیست که آن سازمان هک شده یا به داده‌هایش دسترسی پیدا کرده‌اند. این رسانه همچنین گزارش داده 53 تصویری که کاربران ChatGPT بارگذاری کرده بودند، سر از سایت‌های میزبانی تصویر درآورده‌اند. OpenAI جداگانه از تعامل عامل‌ها با سامانه‌های بیرونی بدون مجوز سخن گفته است. این رویدادها با اتهام‌های مطرح‌شده علیه کارکنان اخراج‌شده جداگانه‌اند و OpenAI نگفته است که این پرونده‌ها به هم مرتبط‌اند.

چه چیزهایی هنوز روشن نیست

OpenAI نگفته است آیا اطلاعاتی که گفته می‌شود نادرست مدیریت شده‌اند، به رویدادهای مربوط به عامل‌هایش ارتباط داشته‌اند یا نه؛ همچنین مشخص نکرده که سازمان بیرونی در بررسی آن رویدادها نقشی داشته یا اطلاعات مشتریان یا کاربران افشا شده است. این شرکت گفته تحقیقاتش تخلفاتی فراتر از به‌اشتراک‌گذاری ادعایی را نیز یافته، اما توضیحی درباره آن‌ها نداده است.

این نخستین‌بار نیست که گزارش می‌شود OpenAI کارکنانی را به‌دلیل افشای اطلاعات ادعایی اخراج کرده است. SiliconANGLE یادآوری می‌کند که این شرکت در 2024 پژوهشگران، Leopold Aschenbrenner و Pavel Izmailov، را اخراج کرد؛ Aschenbrenner بعداً گفت سندی درباره ایمنی را با پژوهشگران بیرونی به اشتراک گذاشته بود. جزئیات پرونده کنونی همچنان روشن نیست.

چرا مهم است

برای کاربران ChatGPT، اخراج‌های تأییدشده نشان می‌دهد OpenAI می‌گوید قوانین مربوط به مدیریت اطلاعات حساس شرکت را اجرا می‌کند. اما این شرکت نگفته چه اطلاعاتی به اشتراک گذاشته شده یا آیا اطلاعاتی از کاربران در میان بوده است؛ بنابراین پیامد عملی این ماجرا برای کاربران هنوز مشخص نیست.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.