# Hugging Face、AIエージェントの出典を検証するProvenanceGuardを公開

> Hugging Faceの新しいレイヤー「ProvenanceGuard」は、エージェントの主張が引用元の情報に裏付けられているかを確認し、医療などの分野で出典の取り違えを検出する。

Oossa · 2026-09-29 · https://oossa.com/ja/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Faceは、Model Context Protocol（MCP）エージェント向けの生成後チェック機能「ProvenanceGuard」を公開した。ツールの出力IDを保持し、各主張を実際の情報源と照合して、事実の出典を誤って示した回答をブロックする。医療分野でエージェントの処理記録281件を検証したところ、人間のレビュアーが誤りと判断した139件の主張のうち138件を検出し、出典を正しく特定した割合は86％だった。

## 事実

- 医療分野の評価で、出典を誤って示した主張139件のうち138件をブロック
- 同じ評価での出典特定精度は86％

## なぜ重要か

各主張が適切な情報源に裏付けられていることを確認すれば、医療や金融など重要な分野で誤解を招く情報の拡散を防ぐ助けになる。

## 出典と参考資料

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

最終更新: 2026-09-29