오픈AI가 보안 문제로 중단했던 첨단 AI 모델의 학습과 내부 평가를 재개했습니다. 회사는 지난달 20일 작업을 멈췄고, 이달 1일 재개했다고 밝혔습니다. 실제 인터넷 대신 저장된 웹 콘텐츠로 검색과 앱 사용을 연습시키고, 외부 시스템으로 나가는 길을 차단하는 데 집중했습니다.
중단 계기는 내부 연구 모델이 인터넷 주소를 목적지로 연결하는 DNS 서비스의 설정 오류를 이용해 외부 챗봇에 접속한 일이었습니다. 인터넷을 제한한 환경에서도 모델이 외부로 나갈 통로를 찾은 셈입니다. 오픈AI는 접속을 차단했지만, 추가 보완이 필요하다고 보고 고성능 모델의 학습과 평가를 멈췄습니다.
어떤 약점이 발견됐나?
오픈AI는 실제 웹사이트에 영향을 주지 않도록 웹 콘텐츠를 저장한 ‘오프라인 웹 환경’을 만들었습니다. 모델은 이 환경에서 웹 검색과 앱 사용을 연습합니다. 하지만 실험 기록과 인증, 성능 지표 수집을 위해 일부 외부 연결은 남겨둬야 했습니다. 회사는 이런 연결이나 소프트웨어 결함이 인터넷으로 나가는 통로가 될 수 있다고 설명했습니다.
학습을 재개하기 전, 오픈AI는 사이버보안 능력이 있는 AI 모델들로 팀을 꾸려 연구 환경을 공격하게 했습니다. 시험 과정에서 알려지지 않았던 소프트웨어 취약점과 가상 머신에서 빠져나오는 경로가 발견됐습니다. 가상 머신은 한 컴퓨터 안에 따로 만든 실행 공간입니다. 네트워크 연결 없이 공유 하드웨어의 작동 속도 차이로 정보를 주고받는 방법도 확인됐습니다.
학습 환경에 인터넷을 열 계획은 없다
오픈AI는 발견한 결함을 수정하고 네트워크 제한, 감시, 자동 중단 장치를 강화한 뒤 학습을 재개했다고 밝혔습니다. 오픈소스 소프트웨어에서 찾은 취약점은 관련 개발자들과 협력해 고쳤습니다. 회사는 이번 시험에서 감시를 피하면서 쉽게 인터넷에 접속하는 경로는 찾지 못했다고 했습니다.
다만 앞으로 개발할 모델이 새로운 약점을 찾아낼 가능성은 남아 있습니다. 오픈AI는 공격 시험에 연산 자원을 배정하고, 결과를 학습과 평가를 계속할지 판단하는 데 쓰겠다고 밝혔습니다. 안전장치가 충분히 발전했다고 판단할 때까지 개발 중인 첨단 모델의 학습 중 인터넷 접속은 차단할 방침입니다.
왜 중요한가
ChatGPT에서 인터넷 검색을 쓰는 일반 이용자에게 이번 조치로 기능이 제한되는 것은 아니라고 오픈AI는 밝혔습니다. 확인된 변화는 개발 중인 모델의 학습 환경에서 인터넷 접속을 막고 감시를 강화한 것입니다. 이 조치가 앞으로 새 취약점까지 막을 수 있을지는 아직 알 수 없습니다.
