Oossa

새 다중 에이전트 프로토콜, 프롬프트 인젝션 공격 성공률 0%로 낮춰

연구진이 계층형 AI 에이전트 시스템에서 간접 프롬프트 인젝션 공격을 막는 통신 방식 multi‑CaMeL을 공개했다.

짧은 소식작성: Oossa 게시일: 최종 업데이트: 1 분 읽기

James Peters‑Gill이 이끈 연구팀은 에이전트가 다른 에이전트를 호출할 때 신뢰할 수 있는 지시와 신뢰할 수 없는 데이터를 분리하는 프로토콜 multi‑CaMeL을 설명한 논문을 Oct 6 2026에 발표했다. 이 방식은 AI 에이전트가 숨겨진 악성 명령을 따르게 할 수 있는 간접 프롬프트 인젝션 공격을 막는다. 테스트에서 multi‑CaMeL을 사용했을 때 공격 성공률은 0.0%로 떨어졌다. 단일 에이전트용 CaMeL은 0.2%, 보호 기능이 없을 때는 12.9%였다. 이 프로토콜은 성능을 약간 떨어뜨리지만, 더 큰 언어 모델을 사용할수록 그 비용은 줄어든다.

왜 중요한가

도구를 사용하는 AI 비서 개발자는 에이전트가 협력할 때 숨겨진 악성 프롬프트를 차단하는 데 multi‑CaMeL을 활용할 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.