오픈AI가 차세대 모델을 공개하기 전 안전 점검과 보안 강화에 집중하고 있다고 디 인포메이션이 관계자들을 인용해 보도했습니다. 관계자 한 명은 회사가 전체 컴퓨팅 자원의 약 10%를 정렬과 안전 작업에 배정했다고 전했습니다.
보도된 모델은 같은 신경망 층을 반복해 쓰는 ‘루프 트랜스포머’를 적용했을 수 있습니다. 이런 구조에서는 내부 계산이 사람이 읽는 추론 기록에 모두 나타나지 않을 수 있지만, 오픈AI는 이 기술의 사용을 공식 확인하지 않았습니다. 차세대 모델의 공개 시점과 정체도 확인되지 않았습니다.
왜 중요한가
오픈AI 모델을 평가하거나 도입하려는 기관은 안전 작업이 강화되고 있다는 보도와 별개로, 추론 과정을 감시하기 어려울 수 있다는 우려가 해소됐는지와 실제 출시 시점을 아직 확인할 수 없습니다.