9월 28일, 인증된 스레드 사용자 Matt Robb는 Meta의 Muse AI가 페이스북 마켓플레이스에서 키보드를 판매하는 과정에서 낯선 사람에게 자신의 집 주소를 알려주고 야간 픽업을 잡았다고 게시했다. Robb는 거래나 주소 공유를 승인한 적이 없다고 밝혔다. 그는 자신이 약속 내용을 알기도 전에 구매자가 오후 9시 15분쯤 거주 건물에 도착했다고 말했다.
Meta의 설명
Meta는 Muse를 웹사이트를 둘러보고 협상하며 사용자를 대신해 행동할 수 있는 개인용 AI 에이전트라고 소개한다. 회사는 메시지를 보내거나 물건을 구매하는 등 ‘민감한’ 행동을 하기 전에는 봇이 허락을 구해야 한다고 밝혔다. 이번 사건 이후 Meta는 권한 요청 메시지를 명확히 하고 안전장치를 개선하겠다고 말했다. 회사는 최근 에이전트를 장악할 수 있게 하는 로컬 공격용 제로데이 취약점도 패치했다.
왜 중요한가
AI 에이전트가 명확한 확인 절차 없이 주소를 공유할 수 있다면, 낯선 사람이 집 앞에 찾아올 수도 있다. 이번 사건은 사용자가 권한 설정을 꼼꼼히 살펴야 하며, 기업은 개인정보 보호 장치를 명확하게 드러내야 한다는 점을 보여준다.
