آزمایش نزدیک به دو میلیون پرامپت نشان داد اطلاعات محرمانهای که از طریق سرویسهای هوش مصنوعی ارسال میشود، ممکن است به سرقت برود، توسط فروشندگان واسطه ثبت شود یا با وجود تنظیمات حریم خصوصی مورد استفاده قرار گیرد. پژوهشگر امنیتی، HD Moore، اطلاعات ورود و پیوندهای منحصربهفردی را در پرامپتها قرار داد و بررسی کرد که این موارد کجا ظاهر میشوند. به گزارش Ars Technica، آزمایش هم استفاده مهاجمان از اطلاعات ورود سرقتشده را آشکار کرد و هم نشان داد برخی ارائهدهندگان به تنظیمات «عدم جمعآوری داده» و Zero Data Retention پایبند نیستند.
Moore، مدیر ارشد پژوهش در شرکت امنیتی Dragos، از اطلاعات ورود مرتبط با حسابهای خالی AWS، گذرواژهها و ارجاع به مخازن خصوصی استفاده کرد. هر داده محرمانه فقط در یک پرامپت و برای یک ارائهدهنده فرستاده شد. به این ترتیب، وقتی بعداً به آن اطلاعات دسترسی پیدا میشد، او میتوانست تشخیص دهد کدام بخش از زنجیره سرویس مسئول بوده است.
اطلاعات محرمانه به کجا رسید؟
Moore شواهدی پیدا کرد که نشان میداد مهاجمان به سه ارائهدهنده میزبانی نفوذ کرده و پرامپتها را هنگام رسیدن کپی کردهاند. آنها ظرف چند ساعت برخی کلیدهای سرقتشده AWS را آزمایش کردند و سپس دهها هزار بار در درخواستهای API سرویس AWS از آنها استفاده کردند. از جمله فعالیتهایشان جستوجوی اطلاعات ورود بیشتر و تلاش برای افزودن کاربران خودشان به حسابهای AWS بود. بعضی از پرامپتهای سرقتشده با تنظیم Zero Data Retention ارسال شده بودند؛ اما این تنظیمات نمیتوانستند از دادهها در برابر مهاجمی که از قبل به یک ارائهدهنده نفوذ کرده بود محافظت کنند.
این آزمایش همچنین ثبت پرامپتها توسط فروشندگان واسطه مدلهای استنتاج و انتقال آنها به افرادی را شناسایی کرد که از اطلاعات ورود استفاده میکردند. این واسطهها درخواستها را به مدلهای هوش مصنوعی هدایت میکنند و گاهی بر اساس قیمت یا معیارهای دیگر ارائهدهندهای را انتخاب میکنند. ممکن است پرامپت پیش از دریافت پاسخ مدل، از چند شرکت عبور کند. دادهها هنگام انتقال میان سرویسها رمزگذاری شدهاند، اما در هر توقف رمزگشایی میشوند و ارائهدهنده یا واسطه ممکن است آنها را ثبت کند.
تنظیمات حریم خصوصی جلوی همه سرویسها را نگرفت
Moore همچنین متوجه شد برخی سیستمها نشانیهای اینترنتی محرمانهای را که در پرامپتها آمده بود باز میکنند. سیستمهای یکی از آزمایشگاههای هوش مصنوعی چین بین July و October نشانیهای اینترنتی بیش از نیمی از پرامپتهای ارسالشده به مدلهایش را باز کردند؛ این رقم برای پرامپتهایی که با برچسب «عدم جمعآوری داده» یا Zero Data Retention مشخص شده بودند، حدود دو سوم بود. این برداشت اطلاعات معمولاً دو یا سه روز بعد انجام میشد. فروشندگان میزبانی آمریکایی که مدلهای این آزمایشگاه را بازفروشی میکردند نیز همین رفتار را نشان دادند؛ بنابراین انتخاب یک واسطه مستقر در آمریکا لزوماً باعث نمیشد پرامپتها در ایالات متحده بمانند.
Moore گفت میزبانی مدلها روی سرورهای خود شرکت بیشترین سطح حفاظت را فراهم میکند، اما هزینه بیشتری دارد. او به مشتریانی که چنین امکانی ندارند توصیه میکند ارائهدهنده مستقیم و ردهاولی را انتخاب کنند که قرارداد و سیاست حریم خصوصی روشنی دارد و بهجای پذیرش مجموعه پیشفرض ارائهدهندگان، ارائهدهندگان بالادستی را خودشان برگزینند. او هشدار داد که حتی این کار هم تضمین نمیکند دادهها نشت نکنند.
چرا مهم است
برای افراد و کسبوکارهایی که گذرواژه، اطلاعات ورود به فضای ابری یا پیوندهای خصوصی را در پرامپتهای هوش مصنوعی وارد میکنند، این آزمایش نشان میدهد این اطلاعات ممکن است در خارج از شرکت سازنده مدل نیز در دسترس قرار گیرد و علیه حسابهای متصل به کار رود. در برخی موارد، این اتفاق طبق آزمایش Moore ظرف چند ساعت رخ داد؛ اما آزمایش مشخص نمیکند اطلاعات کاربران عادی با چه فراوانی در معرض افشا قرار میگیرد.