OpenAI는 독립 기관 4곳이 자사 사무실에서 AI 시스템을 감사한다고 발표했다. 감사 기관인 Apollo Research, METR, Goodfire, Transluce는 소스 코드, 학습 데이터, 모니터링 도구와 미출시 모델을 살펴본다. 개발자들과 비공개로 면담할 수도 있다. OpenAI는 이번 시범 프로그램이 백악관의 ‘초지능 협약(Accord on Super Intelligence)’에 따른 약속의 일환이라고 밝혔다.
Apollo는 모델이 자체 정렬이나 향후 버전의 정렬을 무너뜨리려 하는지 살펴본다. METR은 OpenAI 자체 테스트에서 놓칠 수 있는 위험 행동을 찾고, OpenAI가 그런 행동을 포착할 수 있는지도 시험한다. Goodfire는 해석 가능성 분석 플랫폼을 활용해 모델 내부 작동 과정을 파악하고 개선책을 제안한다. Transluce는 사후 학습 안전성 검사를 평가하며, 2027년 초 8주간 후속 검토를 진행할 계획이다. 독립 안전위원회는 삭제되지 않은 전체 보고서를 받아보고, 이견이 생기면 중재한다. OpenAI는 기밀 정보를 삭제할 수 있으며, 위험에 먼저 대응하기 위해 공개를 늦출 수도 있다.
이번 프로그램은 OpenAI의 모니터링 시스템을 대상으로 한 앞선 현장 검토를 확대하는 것이다. 또 METR 연구진이 지난달 Anthropic에서 직원 수준의 접근 권한을 받은 뒤 시작된 관행을 확장한다. 비판론자들은 Apollo와 Goodfire는 업무 대가를 받지만 METR과 Transluce는 컴퓨팅 또는 API 크레딧만 받는다고 지적한다. Redwood의 CEO Buck Shlegeris 등 일부 안전 전문가들은 이번에 허용된 접근 권한이 많은 이들이 요구해 온 ‘직원과 유사한’ 수준에는 아직 미치지 못한다고 말한다.
중요한 이유
ChatGPT나 다른 OpenAI 제품을 사용하는 사람들에게 이번 감사는 모델이 대중에게 공개되기 전에 숨겨진 실패 가능성을 발견하는 계기가 될 수 있다. 감사에서 심각한 안전 문제가 드러나면 OpenAI는 이를 수정하거나 출시를 미뤄야 할 수 있으며, 이에 따라 기능 출시 일정과 가격에도 영향이 생길 수 있다.
왜 중요한가
이번 감사는 OpenAI의 가장 강력한 모델이 출시 후에만이 아니라 학습 과정에서 어떻게 작동하는지 외부에서 살펴볼 기회를 제공한다. 일상적으로 쓰이는 제품의 안전성을 높일 수 있지만, 공개되는 정보가 제한적이어서 외부에서는 아직 결과를 완전히 검증할 수 없다.