CyberCartel이라는 해킹 조직이 AI 에이전트를 활용해 중남미 금융 서비스를 대상으로 한 사이버 공격을 자동화하기 시작했다. 사용한 AI 도구에는 Anthropic의 Claude, SpaceX의 Grok, 중국 AI 연구소 Moonshot AI의 에이전트가 포함된다. 사이버 보안 스타트업 Straiker에 따르면 이 조직은 은행과 모바일 결제 앱을 포함해 400곳이 넘는 기관에서 데이터를 빼냈으며, 수작업을 거의 들이지 않고도 개인 계정에 접근했다.
AI 도구를 활용하는 방식
Straiker의 조사에 따르면 AI 에이전트는 피싱 메시지를 만들고, 비밀번호를 추측하고, 침해된 시스템을 사람 해커보다 빠르게 탐색할 수 있다. 이 조직은 사람이 직접 공격하는 방식만으로는 불가능했던 규모로 공격을 벌일 수 있다. Straiker는 조사 결과를 AI 서비스 제공업체들에 전달했으며, Anthropic은 이미 문제 계정의 Claude 이용을 차단했다. SpaceX도 Grok의 문제를 해결하기 위해 작업 중이며, Moonshot AI는 아직 답변하지 않았다.
왜 중요한가
중남미에서 은행과 결제 앱을 이용하는 일반 사용자에게 AI의 활용은 데이터가 더 빠르고 대규모로 유출될 수 있음을 뜻한다. 널리 이용 가능한 AI 서비스도 악용될 수 있으며, 이에 따라 제공업체가 접근 통제를 강화해야 한다는 점을 보여준다. 보완 조치가 마련될 때까지 사용자는 의심스러운 계정 활동에 주의를 기울여야 한다.
