أطلقت Hugging Face أداة ProvenanceGuard، وهي مدقّق يعمل بعد توليد الإجابات لوكلاء بروتوكول سياق النماذج (MCP). تحتفظ الأداة بمعرّفات مخرجات الأدوات، وتطابق كل ادعاء مع مصدره الفعلي، وتحجب الإجابات التي تنسب معلومات إلى مصدر خاطئ. وفي اختبار طبي شمل 281 سجلًا لتفاعلات الوكلاء، صنّف مراجعون بشريون 139 ادعاءً على أنه خاطئ؛ وتمكنت ProvenanceGuard من رصد 138 منها، كما حدّدت المصدر الصحيح في 86% من الحالات.
لماذا يهم
يساعد التأكد من استناد كل ادعاء إلى المصدر الصحيح على منع المعلومات المضللة في المجالات الحساسة، مثل الرعاية الصحية والتمويل.
