OpenAI가 소프트웨어 보안 취약점을 찾아내고 실제로 작동하는 공격 코드를 만들며 패치까지 제안하도록 설계된 모델 GPT-6 Cyber를 공개했다. 이 모델은 Daybreak Red 프로그램에 참여하는 일부 고객에게 API와 Codex를 통해 제공되며, 향후 해당 프로그램의 다른 고객에게도 단계적으로 확대될 예정이다.
이 모델은 보안팀이 취약점을 찾아 고치는 데 도움을 줄 수 있지만, 모델의 기능을 통제하는 일도 중요해진다. OpenAI는 Hugging Face 사건에서 착안한 허니팟을 포함해 GPT-6 Cyber가 정해진 범위를 벗어나지 않도록 훈련했다고 밝혔다. 회사에 따르면 별도의 안전 지침이 없을 때에도 테스트의 99.93%에서 경계를 넘지 않았다. 전작의 94.49%보다 높아진 수치다. 안전 지침을 적용했을 때는 모든 테스트에서 경계를 지켰다.
성능은 어땠나?
원격 시스템의 취약점을 모델이 악용할 수 있는지 평가하는 테스트 ExploitGym에서 GPT-6 Cyber는 48.5%를 기록했다고 OpenAI는 밝혔다. GPT-5.6 Cyber는 32.1%, 일반 모델인 GPT-6 Astra는 42.4%였다. 소스 코드에 접근하지 않고 웹 앱의 취약점을 찾는 별도 테스트에서는 GPT-6 Cyber의 적중률이 40.3%로, GPT-6 Astra의 32.0%보다 높았다.
OpenAI는 GPT-6 Cyber가 Firefox에서 이전에 알려지지 않았던 심각한 취약점 81개를 찾아냈다고도 밝혔다. Mozilla는 보고 내용을 받아들였으며 수정 사항을 배포했다. Linux 커널에서는 모델이 취약점 1,724개를 재현하고, 그중 948개에 대해 실제로 작동하는 공격 코드를 만들었다. OpenAI는 이 가운데 치명적인 문제 304건을 수정 제안과 함께 유지관리자에게 보고했다고 밝혔다. 이 수치는 모두 회사가 공개한 것으로, GPT-6 Cyber에 대한 독립적인 테스트 결과는 아직 발표되지 않았다.
이용은 아직 제한적
Linux 조사에서는 자동화된 스카우트 및 분석 에이전트가 보안과 관련된 위치 약 5,034곳을 살폈다. 이는 커널 코드베이스의 약 7%에 해당한다. 시스템은 후보 2,308곳으로 범위를 좁힌 뒤, 격리된 가상 머신에서 취약점을 확인했다. OpenAI에 따르면 이 작업에 든 컴퓨팅 비용은 $1,213,430, 작동하는 공격 코드 하나당 $1,279였다. 회사가 비교 사례로 제시한 과거 취약점 포상금 $20,000~$70,000보다 적지만, 연구 비용과 포상금은 서로 다른 기준이다.
OpenAI는 사람의 감독 아래 격리된 환경에서 모델을 사용할 것을 권고한다. 안전장치에는 모델의 행동이 사용자의 권한에 부합하는지 확인하고 새로 공개되는 취약점을 모니터링하는 기능이 포함된다고 회사는 설명했다. OpenAI는 더 많은 조직과 연구자에게 GPT-5.6 Cyber와 GPT-6 Astra도 제공할 계획이다.
왜 중요한가
소프트웨어 유지관리자와 보안팀은 Firefox와 Linux에서 발견됐다고 보고된 사례를 통해 GPT-6 Cyber가 취약점을 찾아내고 수정 방안을 제안하는 데 도움이 될 가능성을 엿볼 수 있다. 다만 이용은 제한적이며, 성능 수치는 OpenAI가 공개한 것으로 독립적인 테스트 결과는 아직 나오지 않았다.
