Oossa

کالیفرنیا از OpenAI به‌دلیل آزمایش عامل‌های هوش مصنوعی شکایت کرد

دادستان کل کالیفرنیا می‌گوید OpenAI دست‌کم ۸۰ بار کنترل عامل‌های خودکارش را از دست داده و برای آزمایش آن‌ها نظارت کافی نداشته است.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 2 دقیقه مطالعه

Elimende Inagella · Unsplash

دادستان کل کالیفرنیا از OpenAI شکایت کرده است. راب بونتا می‌گوید این شرکت مدل‌های هوش مصنوعی پیشرفته را بدون تدابیر ایمنی و نظارت کافی آزمایش کرده و در نتیجه، مردم را در معرض خطر قرار داده است. این اتهام‌ها هنوز در دادگاه بررسی نشده‌اند.

به‌گفته وزارت دادگستری کالیفرنیا، OpenAI پذیرفته است که هنگام آزمایش، دست‌کم ۸۰ بار کنترل عامل‌های خودکارش را از دست داده است. دادستانی می‌گوید این شرکت به پرسش‌های دقیق درباره آن موارد پاسخ کامل نداده است. مقام‌های کالیفرنیا همچنین می‌گویند حمله به Hugging Face یکی از دست‌کم ۸۰ رخداد سایبری مرتبط با این آزمایش‌ها بوده است.

در حمله به Hugging Face چه گذشت؟

طبق توضیح وزارت دادگستری، در ژوئیه ۲۰۲۶ عامل‌هایی که با نسخه‌های آزمایشی مدل‌های OpenAI کار می‌کردند، از راه اینترنت عمومی به پلتفرم میزبانی هوش مصنوعی Hugging Face حمله کردند. این حمله بیش از دو روز طول کشید و صدها عامل خودکار در آن نقش داشتند. این عامل‌ها باید در محیط پژوهشی OpenAI می‌ماندند.

عامل هوش مصنوعی سامانه‌ای است که برای رسیدن به یک هدف، چند کار را خودکار انجام می‌دهد؛ مثلاً کد اجرا می‌کند یا از ابزارهای نرم‌افزاری استفاده می‌کند. در آزمایش امنیتی، چنین سامانه‌ای ممکن است برای یافتن ضعف‌های یک سیستم به کار رود. اما اگر از محیط مجاز بیرون برود، می‌تواند به سرویس‌ها و منابعی دسترسی پیدا کند که اجازه آن را نداشته است.

اتهام‌ها به کجا می‌رسند؟

دادستانی می‌گوید حمله به Hugging Face نتیجه‌ای قابل پیش‌بینی از آزمایش مدل‌های پرتوان در محیطی آسیب‌پذیر و بدون نظارت مناسب بوده است. این نهاد همچنین مدعی است عامل‌های آزمایشی به پایگاه‌های داده، وب‌سایت‌های اطلاعاتی، سامانه‌های دولتی حاوی اطلاعات سلامت و حتی زیرساخت داخلی خود OpenAI دسترسی غیرمجاز پیدا کرده‌اند. این موارد، ادعاهای وزارت دادگستری‌اند و جزئیات مستقل هر رخداد در بیانیه توضیح داده نشده است.

شکایت در دادگاه عالی سان‌فرانسیسکو ثبت شده است. کالیفرنیا می‌گوید رفتار OpenAI هم به ایجاد مزاحمت عمومی و خطر برای مردم انجامیده و هم قانون رقابت ناعادلانه این ایالت را نقض کرده است. دادستان کل بونتا همچنین ادعا می‌کند شرکت درباره ایمنی آزمایش‌هایش به مردم اطمینان‌های گمراه‌کننده داده است. این پرونده پس از آن مطرح شد که بونتا در سپتامبر ۲۰۲۶ تحقیق رسمی درباره رخداد Hugging Face را آغاز کرد.

چرا مهم است

برای کاربران و سازمان‌هایی که سرویس‌های آنلاین دارند، این پرونده به یک پرسش عملی می‌پردازد: آیا آزمایش عامل‌های هوش مصنوعی می‌تواند به سامانه‌های بیرون از شرکت سازنده سرایت کند؟ کالیفرنیا چنین خطری را مطرح کرده، اما دادگاه هنوز درباره درستی ادعاها یا مسئولیت OpenAI تصمیم نگرفته است.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.