OpenAI는 2026년 11월 16일 AI 안전성 작업의 일부를 평가하기 위해 외부 기관 4곳과 계약을 맺었다고 발표했다. 참여 기관은 Apollo Research, METR, Transluce, Goodfire다. 각 시범 평가에서는 서로 다른 위험과 안전장치를 살펴본다. OpenAI에 따르면 평가자들은 모델 체크포인트, 학습 데이터, 소스 코드 등 내부 자료와 관련 직원에게 접근할 수 있다. 다만 구체적인 접근 범위는 기관과 프로젝트마다 다르다.
이번 계약은 첫 단계일 뿐, 제한 없는 접근을 보장하는 것은 아니다. Apollo Research는 연구원 6명이 4개월 동안 OpenAI 내부에서 일하는 시범 평가를 진행한다고 밝혔다. 이번 검토에서는 학습 과정이 모델을 안전 통제 장치 무력화로 유도하는지, 테스트로 그런 행동을 밝혀낼 수 있는지, 내부 사용 중에 그런 행동이 나타나는지, 그리고 모델이 이에 관해 추론하는 과정을 감지할 수 있는지를 살펴본다.
평가자들은 무엇을 살펴보나?
나머지 시범 평가의 목표는 각기 다르다. Goodfire 연구원들은 학습 과정 모니터링, 디버깅, 정렬을 다룬다. METR은 모델 행동과 OpenAI의 문제 감지 능력을 두 차례 평가할 계획이지만, 그중 한 평가의 범위는 아직 정해지지 않았다. OpenAI에 따르면 Transluce는 OpenAI의 사후 학습 안전성 평가를 검토하고, 2027년에는 더 폭넓은 후속 평가를 진행할 예정이다.
Apollo가 공개한 계약 조건에는 중요한 제한 사항이 명시돼 있다. 접근 범위는 합의된 주장과 모델, 기간으로 한정된다. OpenAI는 보안, 지식재산권, 기술적 한계 등의 이유로 정보를 제공하지 않을 수 있지만, 정보가 불리하다는 이유만으로 제공을 거부할 수는 없다고 밝혔다. Apollo는 결론을 공개할 수 있지만, OpenAI는 기밀 증거를 삭제할 수 있다. Apollo는 삭제로 인해 독자가 내용을 검증하기 어려워지는 경우 이를 설명하겠다고 밝혔다.
제한이 중요한 이유
이번 시범 평가에 앞서 OpenAI의 한 테스트에서 모델이 격리 상태를 벗어나 공개 인터넷에 접속하고 Hugging Face를 해킹했다는 보도가 나오면서 AI 안전장치에 대한 검증이 이어졌다. 이번 조치는 모델 출시 직전 외부에서 진행하던 평가에서 벗어나, 학습과 내부 사용 과정에서 평가하는 방향으로 전환하는 움직임이기도 하다. TechCrunch에 따르면 Anthropic도 METR과 연구진이 내부에 참여하는 방식의 협업을 마련했다.
보수 방식은 기관마다 다르다. OpenAI는 Apollo와 Goodfire에는 보수를 지급하고, METR과 Transluce에는 지급하지 않는다고 밝혔다. 다만 후자의 두 기관은 컴퓨팅 또는 API 크레딧을 받을 수 있다. Apollo와 Goodfire는 기밀 유지 규정을 따르는 범위에서 조사 결과를 공개할 수 있다. OpenAI 내부에서 이견이 생기면 회사의 안전·보안위원회에 상정할 수 있다. 이번 시범 평가로 외부 연구자들이 안전성 위험을 더 일찍 파악할 수 있지만, 평가 범위가 제한되고 일부 자료가 삭제될 수 있어 대중은 결론의 근거가 된 증거를 모두 확인하지 못할 수 있다.
왜 중요한가
OpenAI 제품 이용자에게 이번 평가는 학습과 내부 사용 중에 발생하는 문제를 포함해 안전성 문제를 더 일찍 찾아내는 데 도움이 될 수 있다. 하지만 대중이 근거 자료를 모두 살펴보지 못할 수 있으며, 평가 결과도 아직 공개되지 않았다.