أعلنت Baseten عن Project Beacon، وهو تعاون مع Goodfire AI لإضافة فحوصات استباقية للسلامة أثناء استدلال نماذج الذكاء الاصطناعي. يراقب النظام التنشيطات الداخلية للنموذج أثناء توليده النصوص، ويمكنه حظر المحتوى غير الآمن أو التنبيه إليه، مثل حقن المطالبات وانتهاك السياسات وتسريب البيانات أو إساءة الاستخدام لأغراض إلكترونية. وتقول Baseten إن أدوات المراقبة ستعمل بالتوازي مع التوليد، لذا لن تضيف زمناً ملحوظاً إلى الاستجابة. وتعتزم الشركة إتاحة الميزة لعدد محدود من الشركاء الأوائل خلال الأشهر المقبلة، ثم توسيع نطاقها لتشمل مزيداً من النماذج وضوابط المؤسسات.
لماذا يهم
يمكن للمؤسسات فرض ضوابط سلامة موحّدة على أي نموذج، ما يقلل الحاجة إلى أدوات تصفية منفصلة ومراجعات يدوية مع اتساع استخدام الذكاء الاصطناعي.
