오픈AI가 안전 연구원 토메크 코르박, 미키타 발레스니, 재스민 왕을 해고하기 전 내부 설계 정보의 외부 유출 가능성을 조사했다고 월스트리트저널(WSJ)이 보도했다. 조사 대상에는 차세대 추론 기술 ‘순환 깊이(Recurrent Depth)’에 관한 보도와 외부 안전 연구자 라이언 그린블랫과 주고받은 시그널 메시지가 포함됐다.
오픈AI는 세 사람이 민감한 정보 취급 규정을 위반했다고 밝혔다. 회사는 안전 문제를 제기하거나 의견을 밝혔다는 이유로 해고한 것은 아니라고 설명했다. 시그널 사용이 승인되지 않은 경로였지만, 그것만이 해고 이유는 아니었다고도 했다.
조사에서 무엇을 확인했나
보도에 따르면 오픈AI의 글로벌 보안 조사팀은 직원들에게 개인 휴대전화 잠금을 풀도록 요구하고, 그린블랫과의 시그널 대화를 확인하려 했다. 일부 연구원의 대화에는 일정 시간이 지나면 메시지가 사라지는 기능이 설정돼 있었다. 코르박과 발레스니는 경영진이 이 기능 사용을 해고 사유로 들었다고 주장했다.
왕은 임원의 이메일을 반복해서 열람했다는 이유를 별도로 통보받았다고 밝혔다. 그는 접근 권한을 없애달라고 요청했지만 처리되지 않았고, 민감한 이메일을 실수로 연 뒤 곧바로 보고했으며 내용을 전달하지 않았다고 주장했다. 오픈AI는 이메일 접근 권한 자체가 문제였던 것은 아니라고 답했다.
순환 깊이 논쟁은 무엇인가
순환 깊이는 같은 신경망 층을 여러 번 사용해 복잡한 문제에 더 많은 계산을 투입하는 방식이다. 기존 추론 모델은 중간 단계를 자연어로 남길 수 있지만, 이 방식에서는 내부 계산이 문장으로 드러나지 않을 수 있다. 안전 연구자들은 그럴 경우 모델의 위험한 행동을 감시하기 어려워질 수 있다고 우려해 왔다.
세 연구원은 자신들이 기밀을 외부에 공유하지 않았고, 어떤 정보가 부적절하게 취급됐는지 서면 설명도 받지 못했다고 밝혔다. 그린블랫도 기자에게 기밀을 제공했다는 의혹을 부인했다. 실제 유출이 있었는지는 확인되지 않았다.
왜 중요한가
오픈AI 직원과 외부 안전 평가기관이 함께 일할 때 어떤 채널로 무엇을 논의할 수 있는지가 이번 사건의 실무 쟁점입니다. 연구원들은 소통 규칙이 불명확하다고 주장하지만, 회사는 규정 위반이 있었다고 밝혔고 실제 유출 여부는 확인되지 않았습니다.
