Cloudflare는 대규모 언어 모델(LLM·ChatGPT의 기반이 되는 AI)이 해커처럼 행동하며 웹 애플리케이션 방화벽(WAF)을 우회하도록 시도하는 테스터를 개발했다. 이 시스템은 스테이징 환경에서 XSS, SQLi, CMDi, SSRF, LFI, Log4j를 대상으로 45개 시나리오를 실행해 요청을 1,107차례 시도했다. 사람이 검토한 결과, 이 가운데 49건이 실제 취약점으로 확인됐으며 48건은 명령어 삽입 또는 SSRF와 관련된 것이었다. 이 작업을 통해 7월 21일 관리형 규칙 세트의 탐지 규칙 3개가 새로 공개됐다.
왜 중요한가
이번 테스트는 AI가 WAF의 취약점을 빠르게 찾아낼 수 있음을 보여준다. 이를 바탕으로 Cloudflare는 모든 고객을 위한 보호 기능을 개선할 수 있다.