OpenAI는 11월 29일부터 Daybreak Blue 사이버보안 세션 데이터를 모델 학습에 사용할 계획입니다. The Decoder에 따르면, Trusted Access 프로그램 회원들에게 보낸 이메일에서 이 변경 사항을 확인했습니다. 이전에는 일반 설정인 “모두를 위해 모델 개선”을 꺼둔 사용자에게도 해당 세션 데이터가 학습에 사용되지 않았습니다.
회원들이 반발하자 OpenAI는 Daybreak Blue 세션에 별도로 학습 거부 옵션을 제공하겠다고 약속하는 두 번째 이메일을 보냈습니다. 이메일만으로는 해당 옵션이 어떻게 작동하는지, 사용자마다 직접 설정해야 하는지는 알 수 없습니다. OpenAI는 안전성 검토 과정에서 표시된 상호작용은 안전 목적에 계속 사용될 수 있다고 밝혔습니다. 따라서 모델 학습을 거부하더라도 세션 데이터의 모든 사용이 차단되는 것은 아닙니다.
연구자들이 우려하는 이유
이번 정책 변경으로 전문 연구나 기술 관련 세션에서 공유한 자료가 추후 모델 학습에 쓰일 수 있다는 우려가 제기됩니다. The Decoder는 수학자 Tristan Buckmaster와 Levent Alpöge가 Navier-Stokes 방정식에 관한 초안을 OpenAI의 Codex에 업로드한 사례를 소개했습니다. 이후 OpenAI는 자체 증명을 발표했고, 두 사람의 입력 내용을 학습에 사용하지 않았다고 부인했습니다.
이 부인에도 연구자들의 의구심은 가시지 않았으며, 이 일은 미공개 연구를 AI 도구와 공유할 때 생길 수 있는 위험을 보여줬습니다. OpenAI가 수학자들의 초안을 모델 학습에 사용했다는 사실이 확인된 것은 아닙니다. 이 사례는 제출한 자료가 어떻게 처리되는지 명확한 제한을 두는 일이 연구자들에게 중요한 이유를 보여주는 별개의 사례입니다.
사용자가 알아둘 점
Trusted Access 회원에게 중요한 변화는 Daybreak Blue 세션이 더 이상 기존의 일괄적인 학습 제외 대상이 아니라는 점입니다. 발표된 계획에 따르면, 일반적인 ‘모두를 위해 모델 개선’ 설정을 꺼두는 것만으로는 해당 세션을 학습에서 제외할 수 없습니다.
OpenAI는 별도의 거부 방법을 제공하겠다고 약속했지만, 언제 적용되는지, 기본 설정이 무엇인지, 과거 세션에도 적용되는지는 아직 공개되지 않았습니다. 시행 예정일은 11월 29일이며, 발표 자료에는 연도가 명시되지 않았습니다. 안전성 검토 목적의 사용은 학습과 별개의 예외이므로 두 용도를 같은 설정으로 여겨서는 안 됩니다.
왜 중요한가
Daybreak Blue를 사용하는 Trusted Access 회원은 일반 모델 개선 설정을 꺼두는 것만으로 세션이 학습에서 제외된다고 생각해서는 안 됩니다. OpenAI는 별도의 학습 거부 옵션을 약속했지만, 적용 시점과 기본 설정은 공개하지 않았으며 안전성 검토 목적의 사용은 계속될 수 있습니다.
