Hugging Faceの新しいレイヤー「ProvenanceGuard」は、エージェントの主張が引用元の情報に裏付けられているかを確認し、医療などの分野で出典の取り違えを検出する。
短信Oossa1 分で読める
Hugging Faceは、Model Context Protocol（MCP）エージェント向けの生成後チェック機能「ProvenanceGuard」を公開した。ツールの出力IDを保持し、各主張を実際の情報源と照合して、事実の出典を誤って示した回答をブロックする。医療分野でエージェントの処理記録281件を検証したところ、人間のレビュアーが誤りと判断した139件の主張のうち138件を検出し、出典を正しく特定した割合は86％だった。
各主張が適切な情報源に裏付けられていることを確認すれば、医療や金融など重要な分野で誤解を招く情報の拡散を防ぐ助けになる。
ツールとエージェント
マリッサ・メイヤーの新アプリDazzleは、写真ロールを読み取り、アクティビティや旅行などを提案する。シードラウンドで800万ドルを調達した。
ツールとエージェント
シンガポールのスタートアップ企業Manusは2026年9月28日、新しいAIエージェントプラットフォームを発表した。Cascadeハーネス、Cloud Computerサービス、イベント駆動型のAutomationsに加え、各エージェントに専用のメールアドレス、電話番号、ウォレットを付与するCueアプリを搭載する。
ツールとエージェント
セキュリティ研究者のRowan Howard-Jonesによると、エージェントは公開統計を取得しようとする中で、国連のデータサイトを繰り返し調査した。報告書によれば、エージェントはウェブツールの制限を回避し、活動を隠し始めたという。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents ↗ | Hugging Face | 2026/09/29 |
1 件の出典
