وكلاء ذكاء اصطناعي وجدوا منفذًا إلى أنظمة أعمال Anthropic

تقول شركة الأمن السيبراني الناشئة Cathedral إن وكلاء الذكاء الاصطناعي الذين نشرتهم وجدوا منفذًا إلى أنظمة الأعمال الداخلية لدى Anthropic عبر برامج خارجية. وأكدت Anthropic أن الباحثين وصلوا إلى مجموعة محدودة من أنظمة المبيعات والموارد البشرية وتقنية المعلومات، شملت بيانات الاتصال لبعض العملاء والشركاء ومعلومات أساسية عن الحسابات.

تقول Anthropic إن الاختراق لم يكشف محادثات Claude أو الشيفرة المصدرية أو أوزان النماذج. وأغلقت الشركة منافذ الوصول المتأثرة في اليوم الذي اكتشفت فيه الاختراق، وعطّلت البرامج الخارجية أثناء عملها على معالجة المشكلة، وأبلغت السلطات الفدرالية الأمريكية. ولم تحدد الشركة علنًا السجلات التي اطّلع عليها الباحثون بالضبط، أو عدد المتضررين.

تبيع Cathedral أدوات أمنية مدعومة بالذكاء الاصطناعي للشركات والجهات الحكومية. وقال باحثوها في مسودة تقرير اطّلعت عليها صحيفة The Washington Post إن وكلاءهم وصلوا، في أقل من 12 ساعة، إلى مواد شملت محاضر اجتماعات ومعلومات عن الرواتب وإعلانات وظائف ورسائل على Slack. وتختلف هذه الادعاءات عن رواية Anthropic الأضيق بشأن البيانات التي جرى الوصول إليها؛ كما يختلف الطرفان بشأن مدة الحادث ونطاقه.

نقاط الخلاف بين الطرفين

تقول Cathedral إن الحادث استغرق أقل من 12 ساعة. أما Anthropic فتقول إن العملية برمتها امتدت عدة أيام؛ إذ قال Logan Graham، من فريقها الأحمر، إن الباحثين أمضوا أيامًا في فحص أنظمة Anthropic قبل الانتقال إلى البرامج الخارجية. وتقول Anthropic إن Cathedral عثرت هناك على ثغرتين، لكنها أبلغت عن واحدة فقط، وإن الشركة اكتشفت الأخرى وأصلحتها بنفسها.

وتقول Anthropic أيضًا إن تصرفات Cathedral خالفت قواعد برنامج مكافآت اكتشاف الأخطاء، الذي يكافئ الباحثين أو يمنحهم التقدير عند الإبلاغ عن ثغرات أمنية. وقال Graham إن استهداف مزودي الخدمات الخارجية وسحب البيانات تجاوزا نطاق الحماية التي يوفرها البرنامج للباحثين الملتزمين بشروطه. وتؤكد Cathedral أنها اتبعت الممارسات المعتادة في أبحاث الأمن. ورحّب Graham باكتشاف الثغرات، لكنه رفض تقديم تفاصيل إضافية عمّا جرى الوصول إليه، مشيرًا إلى حساسية المسألة.

ولا تزال الادعاءات الأوسع نطاقًا محل خلاف. فقد قال Will Depue، الموظف السابق في OpenAI، إن مصادر يثق بها أبلغته بأن Cathedral حصلت على صلاحيات مدير كاملة في مساحة عمل Slack التابعة لـAnthropic، وكان بوسعها قراءة كل الرسائل وتسجيل الدخول بهوية أي مستخدم. وقال Graham إن مصادر Depue مخطئة. ولم تنشر Anthropic بيانًا تفصيليًا يحسم الخلاف، لذا لا ينبغي التعامل مع تلك الادعاءات على أنها حقائق مؤكدة.

كيف وصلنا إلى هنا

لم يكن Claude نفسه نقطة الدخول المبلغ عنها، بل برامج خارجية للمبيعات والإدارة مرتبطة بـAnthropic. وهذا فارق مهم: فالشركة تقول إن محادثات الذكاء الاصطناعي وأصول النماذج لم تُمس، مع أن الحادث كشف بعض أنظمة الأعمال والمعلومات. وقال Alex Stamos، المسؤول التنفيذي عن الأمن في شركة الذكاء الاصطناعي Cognition، لصحيفة The Washington Post إن التطبيقات الخارجية المتكاملة تمثل مشكلة كبيرة على مستوى القطاع، وإن Anthropic كان بإمكانها تأمين خدماتها الخارجية على نحو أفضل.

وتُظهر الحادثة أيضًا كيف يمكن لأدوات اختبار الأمن أن تكشف الثغرات بسرعة. وقال Graham إن المهاجمين يشغّلون بالفعل وكلاء ذكاء اصطناعي باستمرار ويستهدفون الأنظمة التابعة لجهات خارجية، وإن الأنظمة التي تسبق أحدث النماذج بسنوات قد تظل قادرة بما يكفي لتنفيذ هذا العمل. وهذه تقديراته، وليست دليلًا على أن كل وكيل ذكاء اصطناعي يستطيع اختراق شبكة شركة. وتصف رواية Cathedral عملية محددة عثرت على ثغرات في برامج أعمال مرتبطة بـAnthropic.

ما الخطوة التالية

تقول Anthropic إنها عطّلت البرامج الخارجية المتأثرة إلى أن حُلّت المشكلة، وأصلحت الثغرة التي اكتشفتها بنفسها. ولم تنشر الشركة بيانًا عامًا يوضح كل السجلات التي وصلت إليها Cathedral، ولا يزال الخلاف قائمًا حول الروايتين المتباينتين للاختراق. وذكرت The Decoder أن Graham يقترح إجراء اختبارات اختراق داخلية باستمرار—أي محاولات مصرحًا بها للعثور على نقاط الضعف—وإعادة بناء البرامج باستخدام التحقق الشكلي، وهو أسلوب للتأكد من التزام البرامج بالقواعد المحددة لها.

والدرس العملي للشركات الأخرى هو فحص الخدمات الخارجية المتصلة بالأنظمة الداخلية، لا الاكتفاء بتأمين منتجاتها الخاصة. لكن التفاصيل المتاحة لا توضح ما إذا كانت اكتشافات Cathedral تشير إلى خلل لدى مزودين بعينهم، أم إلى إعداد خاص بـAnthropic. كما أنها لا تثبت الوصول إلى بيانات العملاء بما يتجاوز معلومات الاتصال.