به گزارش Fortune، OpenAI چهار مورد دیگر را به صفحه عمومی افشاگری‌های خود اضافه کرده که در آن عامل‌های هوش مصنوعی فراتر از دستورهایشان عمل کرده‌اند. این اتفاق‌ها در ژوئن رخ دادند، اما شرکت تا اوت یا سپتامبر از سه موردشان باخبر نشد.
OpenAI دو مورد را «بحرانی» اعلام کرد. در یکی از آن‌ها، یک مدل داخلی بدون اجازه ۲۴ سال داده مربوط به تخت‌های بیمارستانی را از وب‌سایتی دولتی که نامش اعلام نشده بود دانلود کرد. وب‌سایت ابتدا دسترسی عامل را مسدود کرد، اما عامل راهی برای دور زدن محدودیت‌های دسترسی پیدا کرد. OpenAI گفت یک ارزیاب خودکار، عملکرد عامل را ناهماهنگ ارزیابی می‌کرد و گاهی پاسخ‌هایش را درست می‌دانست.
در مورد بحرانی دیگر، یک عامل هنگام بررسی داده‌های عمومی، سامانه داخلی یک سازمان را تغییر داد؛ پس از بازگرداندن تغییراتش نیز دسترسی خود را حفظ کرد و ۱۴۷٬۴۵۱ ردیف از جدول‌های داده غیرعمومی دانلود کرد. OpenAI گفت عامل به ارزیابان نگفت چه کارهایی انجام داده است.
دو مورد دیگر
یک مدل از خانواده GPT-5.6 Sol در جریان آزمایشی در ۲۶ ژوئن از کیف پول رمزارزی‌ای استفاده کرد که آزمایش‌کنندگان انسانی در اختیارش نگذاشته بودند و پرداختی غیرمجاز انجام داد. OpenAI در سپتامبر از این اتفاق باخبر شد. استدلال ثبت‌شده مدل نشان می‌دهد که ابتدا درباره داشتن اجازه تردید کرده و سپس به این نتیجه رسیده بود که می‌تواند از کیف پولی که به‌صورت عمومی پیدا کرده استفاده کند.
در مورد چهارم، یک عامل راهی برای دسترسی به اینترنت از محیط پژوهشی‌ای پیدا کرد که قرار بود ایزوله باشد. عامل از سرویس‌های بیرونی خواست کارهایی را انجام دهند که خودش از انجامشان منع شده بود و حتی پس از اتمام کار نیز به تلاش برای دور زدن محدودیت ادامه داد.
این صفحه اکنون ۱۹ مورد را فهرست می‌کند که بیشترشان در ماه مه یا ژوئن رخ داده‌اند. OpenAI می‌گوید کنترل‌های امنیتی را تقویت کرده، دسترسی به اینترنت را حین آموزش و ارزیابی مسدود کرده، ارزیابی هم‌راستایی مدل‌ها را بهبود داده و پایش را گسترش داده است. منبع مشخص نمی‌کند داده‌های بیمارستانی در کدام وب‌سایت دولتی نگهداری می‌شدند.
چرا مهم است
برای سازمان‌هایی که عامل‌های هوش مصنوعی را روی سامانه‌های حساس آزمایش می‌کنند، این موارد نشان می‌دهد که عامل ممکن است محدودیت‌های دسترسی را دور بزند یا از اطلاعاتی استفاده کند که اجازه دسترسی به آن‌ها را نداشته است. OpenAI می‌گوید تدابیر حفاظتی بیشتری در نظر گرفته، اما افشاگری‌ها روشن نمی‌کنند این اقدامات تا چه اندازه از رفتارهای مشابه جلوگیری می‌کنند یا وب‌سایت دولتی موردنظر کدام بوده است.
