해커들, 구형 AI 모델로 안전장치 우회해 공격

CrowdStrike 연구진은 이전에 알려지지 않았던 해커 조직 4곳이 2026년 5월부터 8월까지 에이전트형 AI를 이용해 공격을 수행한 방식을 자세히 공개했다. 중국어, 스페인어·영어, 인도네시아어, 러시아어를 사용하는 이들 조직은 Anthropic의 구형 Claude 모델과 공개 가중치 모델인 Deepseek에 접근했다. 이들은 프롬프트를 승인된 모의 침투 테스트로 포장하고 시스템 프롬프트를 수정해 내장된 안전장치를 우회했다. 스페인어·영어를 사용하는 조직은 아르헨티나 의료기관 최소 15곳을 침해하고 자격 증명을 탈취했다.

네 조직 모두 AI 인프라를 공개 웹 서버에 노출해 연구진이 사용 중인 모델과 도구 구성을 확인할 수 있었다. 공격자들은 구형의 저렴한 모델을 선호했으며, 이는 최첨단이 아닌 AI도 대규모 해킹에 활용될 수 있음을 보여준다.