비공개 프리뷰 테스트에서 유해한 행동의 87%를 포착했지만, 일반적인 사무 업무에서는 일부 오탐이 발생했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
사건 날짜:
Google은 9월 새 기능인 에이전트 이상 탐지를 공개 에이전트 보안 벤치마크 5종으로 시험했다. 이 도구는 에이전트 로그를 읽고 예상된 행동에서 벗어나는 세션을 찾아내며, 지연 시간을 늘리지 않는다. 시험 전반에서 에이전트가 실제로 수행한 유해한 지시의 87%를 포착했고, 정상 세션에서 오탐률은 2~16%였다.
AgentDojo, InjecAgent, Agent Security Bench, AgentDyn, AgentHarm 등 벤치마크 5종은 총 1,774개 세션을 다뤘다. 에이전트 이상 탐지는 장기 메모리에 숨겨진 지시를 가장 잘 찾아내지 못해, 관련 사례 18건 중 4건만 포착했다.
Gemini 에이전트를 사용하는 기업은 위험한 행동이 발생한 뒤 대부분을 확인할 수 있지만, 메모리를 이용한 공격에는 추가 보호 조치가 필요할 수 있다.
도구와 에이전트
새 플러그인은 Claude를 Autodesk Fusion, Oracle NetSuite, Microsoft 365, Infor와 연결해 견적 작성, 품질 보고서 작성, 공급망 업무를 자동화한다. 모든 결과물은 사람이 검토해야 한다.
도구와 에이전트
Bracco와 Avicenna.AI가 CT 혈관조영 영상에서 3 mm 초과 뇌동맥류를 표시하는 소프트웨어 UPTUNITY | Aneurysm의 510(k) 허가를 받았다.
도구와 에이전트
새로운 ArcticSwarm 아키텍처는 근거 수집과 통합을 분리해 Qwen 3.5‑27B로 BrowseComp 점수 82.6%를 기록했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
