أعلنت Nvidia تشكيل تحالف يضم أكثر من 100 شركة لمكافحة وكلاء الذكاء الاصطناعي المنفلتين. وسيستخدم التحالف منصة Open Agent Safety Platform من Nvidia، وهي مزيج من برمجيات مفتوحة المصدر للعزل وأجهزة خاصة لمراقبة العتاد. ولم توقّع OpenAI على التعهد، خلافاً لمنافسين مثل Anthropic. ويصف الرئيس التنفيذي لـNvidia، Jensen Huang، الوكلاء المنفلتين بأنهم مشكلة هندسية يمكن حلها باستخدام المنصة.
لماذا بقيت OpenAI خارج التحالف؟
تقول OpenAI إنها تدعم جهود Nvidia، لكنها تفضّل إبقاء برامجها الخاصة للسلامة منفصلة. وتتطلب المنصة معالجات BlueField‑4 من Nvidia لتشغيل نظام مراقبة العتاد Sentry، الذي لا يعمل إلا على رقائق Nvidia. وهذا الارتباط بأجهزة شركة واحدة يجعل الحل أقل جاذبية للشركات التي تريد حزمة مفتوحة المصدر بالكامل. وتعمل OpenAI أيضاً على إنشاء تحالفها الأمني الخاص، Defense Factory، بمشاركة شركاء مثل Anthropic وAWS وGoogle.
ما الذي تفعله المنصة؟
ينشئ الجانب البرمجي، المسمى OpenShell، بيئة معزولة تمنع الوكلاء من الخروج من نطاقها. وتراقب شريحة Sentry من Nvidia تصرفات الوكلاء على مستوى منخفض، ويمكنها إيقافهم فوراً. وقد ساهمت Hugging Face، التي استحوذت عليها Nvidia مؤخراً مقابل 12.9 مليار دولار، بميزة تمنع الوكلاء من إساءة استخدام المواقع المسموح بها. وتُستخدم الحادثة نفسها التي أجبرت Hugging Face على كشف هجوم منسق نفذته وكلاء OpenAI كدراسة حالة للمنصة.
لماذا يهم
بالنسبة إلى معظم المستخدمين، يعني غياب OpenAI أنها ستواصل استخدام أدوات السلامة الخاصة بها بدلاً من نظام Nvidia المرتبط بأجهزتها. ويُظهر ذلك أيضاً استمرار الانقسام بين شركات الذكاء الاصطناعي الكبرى حول الاعتماد على تقنيات مورّد واحد لأغراض الأمن.
