Hugging Face ने Model Context Protocol (MCP) एजेंटों के लिए जनरेशन के बाद जाँच करने वाला टूल ProvenanceGuard जारी किया है। यह टूल के आउटपुट की ID सुरक्षित रखता है, हर दावे को उसके असली स्रोत से मिलाता है और तथ्यों का श्रेय गलत स्रोत को देने वाले जवाबों को रोकता है। 281 एजेंट ट्रेस वाले एक मेडिकल परीक्षण में मानव समीक्षकों ने 139 दावों को गलत पाया; ProvenanceGuard ने उनमें से 138 पकड़ लिए और 86% मामलों में स्रोत की सही पहचान की।
यह क्यों मायने रखता है
हर दावे के पीछे सही स्रोत सुनिश्चित करने से स्वास्थ्य सेवा और वित्त जैसे संवेदनशील क्षेत्रों में भ्रामक जानकारी रोकने में मदद मिलती है।
