Hugging Face, Model Context Protocol (MCP) ajanları için üretim sonrası denetleyici ProvenanceGuard’ı yayımladı. Araç çıktılarının kimliklerini koruyan katman, her iddiayı gerçek kaynağıyla eşleştiriyor ve olguları yanlış kaynağa atfeden yanıtları engelliyor. 281 ajan izinin incelendiği bir tıp testinde insan değerlendiriciler 139 iddiayı hatalı olarak işaretledi; ProvenanceGuard bunların 138’ini yakaladı ve kaynağı yüzde 86 doğrulukla belirledi.
Neden önemli
Her iddianın doğru kaynakla desteklendiğinden emin olmak, sağlık ve finans gibi hassas alanlarda yanıltıcı bilgilerin önüne geçmeye yardımcı olur.
