عامل‌های هوش مصنوعی راهی به سامانه‌های تجاری Anthropic پیدا کردند

استارتاپ امنیت سایبری Cathedral می‌گوید عامل‌های هوش مصنوعی‌ای که به کار گرفته بود، از طریق نرم‌افزارهای شرکت‌های ثالث راهی به سامانه‌های تجاری داخلی Anthropic پیدا کردند. Anthropic تأیید کرده است که پژوهشگران به مجموعه محدودی از سامانه‌های فروش، منابع انسانی و فناوری اطلاعات دسترسی پیدا کردند؛ از جمله اطلاعات تماس برخی مشتریان و شرکا و داده‌های پایه حساب‌ها.

Anthropic می‌گوید در این رخنه، گفت‌وگوهای Claude، کد منبع یا وزن‌های مدل افشا نشدند. این شرکت همان روزی که از رخنه باخبر شد، نقاط دسترسی آسیب‌دیده را بست، تا زمان رسیدگی به مشکل، برنامه‌های شرکت ثالث را غیرفعال کرد و مقام‌های فدرال آمریکا را در جریان گذاشت. شرکت هنوز به‌طور عمومی مشخص نکرده پژوهشگران دقیقاً چه سوابقی را مشاهده کرده‌اند یا چند نفر تحت تأثیر قرار گرفته‌اند.

Cathedral ابزارهای امنیتی مبتنی بر هوش مصنوعی را به شرکت‌ها و نهادهای دولتی می‌فروشد. پژوهشگران این شرکت در پیش‌نویس گزارشی که The Washington Post آن را بررسی کرده، گفته‌اند عامل‌هایشان در کمتر از ۱۲ ساعت به محتوایی از جمله متن پیاده‌شده جلسات، اطلاعات حقوق و دستمزد، آگهی‌های استخدام و پیام‌های Slack دسترسی پیدا کردند. این ادعاها در کنار روایت محدودتر Anthropic از داده‌های در دسترس قرارگرفته مطرح شده‌اند؛ دو طرف درباره مدت و گستره این رویداد اختلاف دارند.

اختلاف دو طرف بر سر چیست؟

Cathedral می‌گوید این رویداد کمتر از ۱۲ ساعت طول کشید. Anthropic می‌گوید کل فرایند چند روز ادامه داشت: Logan Graham، عضو تیم قرمز این شرکت، گفت پژوهشگران پیش از آنکه سراغ نرم‌افزارهای شرکت‌های ثالث بروند، چند روز سامانه‌های Anthropic را بررسی می‌کردند. Anthropic می‌گوید Cathedral دو آسیب‌پذیری در آن نرم‌افزارها پیدا کرد، اما فقط یکی را گزارش داد؛ این شرکت می‌گوید آسیب‌پذیری دیگر را خودش مستقلاً پیدا و برطرف کرد.

Anthropic همچنین می‌گوید اقدامات Cathedral ناقض مقررات برنامه باگ‌بانتی این شرکت بوده؛ برنامه‌ای که در آن به پژوهشگران بابت گزارش نقص‌های امنیتی پول یا تقدیر داده می‌شود. Graham گفت هدف قرار دادن ارائه‌دهندگان خدمات ثالث و بیرون کشیدن داده‌ها، فراتر از حمایت‌های «بندر امن» این برنامه بوده است. Cathedral می‌گوید رویه‌های معمول پژوهش امنیتی را رعایت کرده است. Graham از کشف آسیب‌پذیری‌ها استقبال کرد، اما با اشاره به حساسیت موضوع از ارائه جزئیات بیشتر درباره داده‌های در دسترس قرارگرفته خودداری کرد.

گسترده‌ترین ادعاها همچنان محل اختلاف‌اند. Will Depue، کارمند پیشین OpenAI، گفت منابعی که آن‌ها را قابل‌اعتماد می‌داند به او گفته‌اند Cathedral دسترسی کامل مدیر سامانه به فضای کاری Slack شرکت Anthropic داشته و می‌توانسته همه پیام‌ها را بخواند و با حساب هر کاربری وارد شود. Graham گفت منابع Depue اشتباه می‌کنند. Anthropic گزارشی عمومی ارائه نکرده که این اختلاف را حل‌وفصل کند؛ بنابراین نباید این ادعاها را یافته‌های تأییدشده دانست.

چطور به اینجا رسیدیم؟

گفته می‌شود راه ورود، خود Claude نبود، بلکه نرم‌افزارهای بیرونی فروش و امور اداری بود که به Anthropic متصل بودند. این تفاوت مهم است: شرکت می‌گوید گفت‌وگوهای هوش مصنوعی و دارایی‌های مدلش دست‌نخورده ماندند، اما این رویداد همچنان برخی سامانه‌ها و اطلاعات تجاری را در معرض دسترسی قرار داد. Alex Stamos، مدیر امنیت شرکت هوش مصنوعی Cognition، به The Washington Post گفت برنامه‌های یکپارچه شرکت‌های ثالث در سراسر صنعت مشکل مهمی هستند و Anthropic می‌توانست از خدمات بیرونی‌اش بهتر محافظت کند.

این رویداد همچنین نشان می‌دهد ابزارهای آزمون امنیتی چطور می‌توانند ضعف‌ها را به‌سرعت پیدا کنند. Graham گفت مهاجمان همین حالا هم به‌طور پیوسته از عامل‌های هوش مصنوعی استفاده می‌کنند و وابستگی‌های بیرونی را هدف می‌گیرند؛ او افزود حتی سامانه‌هایی که از جدیدترین مدل‌ها عقب‌ترند، ممکن است برای این کار به‌اندازه کافی توانمند باشند. این‌ها ارزیابی‌های او هستند، نه شواهدی که نشان دهند هر عامل هوش مصنوعی می‌تواند به شبکه یک شرکت نفوذ کند. روایت Cathedral شرح یک تلاش مشخص است که در نرم‌افزارهای تجاری متصل به Anthropic آسیب‌پذیری‌هایی پیدا کرد.

گام بعدی چیست؟

Anthropic می‌گوید برنامه‌های شرکت ثالثِ آسیب‌دیده را تا زمان رفع مشکل غیرفعال کرد و آسیب‌پذیری‌ای را که خودش پیدا کرده بود برطرف کرد. این شرکت گزارشی عمومی از همه سوابقی که Cathedral به آن‌ها دسترسی پیدا کرد منتشر نکرده و روایت‌های متفاوت درباره رخنه همچنان بی‌نتیجه مانده‌اند. The Decoder گزارش می‌دهد که راهکار پیشنهادی Graham آزمون نفوذ داخلیِ پیوسته است—تلاش‌های مجاز برای یافتن ضعف‌ها—و بازسازی نرم‌افزار با استفاده از راستی‌آزمایی صوری؛ روشی برای بررسی اینکه نرم‌افزار از قواعد تعیین‌شده پیروی می‌کند یا نه.

درس عملی برای شرکت‌های دیگر این است که خدمات بیرونیِ متصل به سامانه‌های داخلی را هم بررسی کنند، نه فقط امنیت محصولات خودشان را. اما جزئیات موجود نشان نمی‌دهد یافته‌های Cathedral به نقصی مشترک در محصولات فروشندگان خاص مربوط می‌شود یا به پیکربندی ویژه Anthropic. همچنین ثابت نمی‌کند که به داده‌های مشتریان فراتر از اطلاعات تماس دسترسی پیدا شده باشد.