Oossa

PCM, AI 에이전트 주장 뒷받침할 증거 확인

새 프로토콜은 메시지에 담긴 각 주장에 다른 에이전트가 확인할 수 있는 증거를 붙인다. 근거가 부족한 주장은 보낸 에이전트를 믿는 대신 미검증으로 표시한다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

연구진은 AI 에이전트 사이에 전달되는 주장의 타당성을 확인하는 프로토콜인 Proof-Carrying Messages(PCM)를 소개했다. 각 주장에는 추가만 가능한 로그의 증거와 독립적인 증명자의 서명이 포함돼야 한다. 발신자가 직접 한 말은 증거로 인정되지 않는다.

논문에 실린 926개 메시지 대상 벤치마크에서 PCM은 거짓 주장 712개 가운데 10개를 받아들였으며, 모두 증거가 오래된 탓이었다. 저자들은 일반 A2A가 거짓 주장 712개를 전부 받아들였다고 밝혔다. 또 독립 검증자 두 명이 모든 판정에서 일치했으며, 메시지 하나를 확인하는 데 약 1밀리초가 걸렸다고 보고했다.

왜 중요한가

AI 에이전트를 연결하는 팀은 PCM을 활용해 다른 에이전트가 행동에 나서기 전에 근거가 부족한 주장을 걸러낼 수 있다. 다만 논문 결과만으로는 실제 운영 환경에서 프로토콜이 어떻게 작동하는지 확인할 수 없다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.