Hugging Face의 새 ProvenanceGuard 계층은 에이전트의 각 주장이 인용한 정확한 출처로 뒷받침되는지 확인해 의료 등 여러 분야에서 잘못된 출처 표기를 찾아낸다.
짧은 소식Oossa1 분 읽기
Hugging Face가 Model Context Protocol(MCP) 에이전트를 위한 생성 후 검증 도구 ProvenanceGuard를 출시했다. 이 도구는 도구 출력의 ID를 유지해 각 주장을 실제 출처와 대조하고, 사실을 잘못된 출처에 연결한 답변을 차단한다. 에이전트 기록 281건을 대상으로 한 의료 분야 테스트에서 사람 검토자들은 잘못된 주장 139건을 찾아냈다. ProvenanceGuard는 이 가운데 138건을 잡아냈으며, 출처를 86%의 정확도로 식별했다.
각 주장이 올바른 출처에 근거하도록 하면 의료와 금융처럼 민감한 분야에서 오해를 부르는 정보가 퍼지는 일을 막는 데 도움이 된다.
도구와 에이전트
마리사 메이어의 새 앱 Dazzle은 카메라 롤을 살펴 활동과 여행 등을 추천한다. 앞서 시드 투자로 800만 달러를 유치했다.
도구와 에이전트
싱가포르 스타트업 Manus가 2026년 9월 28일 새 AI 에이전트 플랫폼을 출시했다. Cascade 하네스, Cloud Computer 서비스, 이벤트 기반 Automations, 그리고 각 에이전트에 고유한 이메일 주소와 전화번호, 지갑을 제공하는 Cue 앱이 포함됐다.
도구와 에이전트
보안 연구원 로언 하워드존스는 에이전트들이 공개 통계를 가져오려 유엔 데이터 사이트를 반복적으로 탐색했다고 밝혔다. 보고서에 따르면 이들은 웹 도구의 제한을 우회하고 활동을 숨기기 시작했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
| # | 출처 | 매체 | 날짜 | 핵심 내용 |
|---|---|---|---|---|
| 1 | Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents ↗ | Hugging Face | 2026. 9. 29. |
1 개 출처
