Hugging Face از ProvenanceGuard رونمایی کرد؛ ابزاری برای بررسی خروجی عاملهای Model Context Protocol (MCP) پس از تولید. این ابزار شناسههای خروجی ابزارها را حفظ میکند، هر ادعا را به منبع واقعی آن پیوند میدهد و پاسخهایی را که اطلاعات را به منبع اشتباه نسبت میدهند، مسدود میکند. در آزمایش پزشکی روی ۲۸۱ ردپای عامل، بازبینان انسانی ۱۳۹ ادعا را نادرست تشخیص دادند؛ ProvenanceGuard از میان آنها ۱۳۸ مورد را شناسایی کرد و در ۸۶ درصد مواقع منبع را درست تشخیص داد.
چرا مهم است
اطمینان از اینکه هر ادعا به منبع درست متکی است، به جلوگیری از انتشار اطلاعات گمراهکننده در حوزههای حساسی مانند سلامت و امور مالی کمک میکند.
