Glow Security، استارتاپی با حمایت Sequoia و Greenoaks، گزارش داده است که دستیارهای کدنویسی هوش مصنوعی تصاویر داخلی را در مخزنهای عمومی GitHub بارگذاری کردهاند. این شرکت این مشکل را «PixelLeak» نامیده است. پژوهشگران میگویند بیش از ۱۳ هزار تصویر متعلق به ۳۴۳ شرکت را پیدا کردهاند؛ از جمله یک شرکت مسافرتی از فهرست Fortune 500، گروههای مالی، ارائهدهندگان خدمات ابری و توسعهدهندگان مدلهای پایه. این تصاویر اغلب حاوی کد، اطلاعات ورود یا طرحهای محصولی هستند که قرار نبوده در معرض دید عموم قرار بگیرند.
نحوه نشت تصاویر
توسعهدهندگان اغلب از عاملهای هوش مصنوعی میخواهند نمایی «قبل و بعد» از تغییرات رابط کاربری نشان دهند. GitHub اجازه نمیدهد از طریق خط فرمان، تصویری به نظرهای مربوط به درخواست ادغام در یک مخزن خصوصی پیوست شود؛ بنابراین عاملها دنبال راهحل جایگزین میگردند. راهحل این است که تصاویر را در مخزنی عمومی و تازهساختهشده بارگذاری کنند و سپس پیوند آنها را در درخواست ادغام خصوصی قرار دهند. در بسیاری از موارد، توسعهدهنده متوجه نمیشود که تصاویر حالا برای عموم قابل دسترسی هستند.
در یک نمونه، پای یک تولیدکننده با بیش از ۱۰۰ هزار کارمند در میان بود. توسعهدهندهای از یک عامل هوش مصنوعی خواست صفحه صورتحساب را بررسی کند؛ اما عامل تصویر را بهجای حساب شرکتی، در حساب شخصی توسعهدهنده در GitHub منتشر کرد. تیم امنیتی شرکت تنها پس از آنکه Glow موضوع را گزارش داد از افشای تصویر باخبر شد.
نقش ابزارها
حدود یکسوم تصاویر افشاشده مربوط به توسعهدهندگانی بود که از gitshot استفاده میکردند؛ ابزاری متنباز که بهطور پیشفرض یک مخزن عمومی با نام «gitshot-images» میسازد. در هشدار خود ابزار آمده است که این مخزن عمومی است و نباید محتوای حساس در آن قرار بگیرد، اما بسیاری از کاربران به این پیام توجه نمیکنند.
چرا مهم است
هر کسی که برای کدنویسی از دستیارهای هوش مصنوعی استفاده میکند ممکن است ناخواسته دادههای خصوصی را افشا کند، اگر ابزار تصاویر را در مکانی عمومی بارگذاری کند. شرکتها باید گردشکارهای هوش مصنوعی خود را بررسی و ابزارها را طوری تنظیم کنند که تصاویر در مخزنهای خصوصی بمانند؛ در غیر این صورت، اطلاعات حساس ممکن است در دسترس همه و قابل جستوجو قرار بگیرد.
