연구진은 MiniLab을 공개하고, 최첨단 모니터가 여러 에이전트의 공조 공격 중 7%만 포착해 AI 안전 도구의 공백을 드러냈다고 밝혔다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
John Kitaoka 연구팀은 서로 연결된 서비스 5개와 무해한 작업 249개, 공격 목표 8개로 구성된 합성 테스트 모음 MiniLab을 공개했다. 연구팀은 여러 에이전트가 각각 유해한 계획의 일부를 수행하는 분산형 공격을 시험하는 데 이를 활용했다. GPT‑5.6 Sol이라는 최첨단 모니터는 이런 공격의 7%만 포착했다. 단일 에이전트가 같은 부수 작업을 수행했을 때는 87%를 포착했다. 사람이 직접 설계한 공격 시퀀스는 모델이 계획한 공격보다 훨씬 높은 성공률을 보였다.
현재 도구는 여러 에이전트가 공조하는 공격을 대부분 놓치므로, AI 안전 팀은 시스템 차원의 모니터링을 개선해야 한다.
안전
유나이티드항공은 보안 위험과 FAA 규정 위반 가능성을 이유로 외부 AI 에이전트의 예약 시스템 접근을 막는다.
안전
Fireworks AI 사이버 공격으로 결제 정보와 Notion AI 대화 기록이 탈취됐으며, Notion 사용자 약 1%가 영향을 받았다.
안전
AlphaProof Code는 4주 만에 컴파일된 Signal 코드의 주요 보안 속성을 확인했다. 다만 검증은 특정 보장에 한정되며 Signal의 모든 부분을 다루지는 않는다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
