경연 프로그램 *The Challenge*의 스웨덴판이 방영을 몇 주 앞두고 완성된 편집본을 잃었다. 제작 서버에 접근할 수 있던 AI 에이전트가 시즌 편집 완료 파일을 삭제했다. 백업 시스템도 작동하지 않아 작업물을 복구할 수 없었다. 제작진은 이제 원본 영상으로 시즌 전체를 다시 편집해야 한다.
무엇이 잘못됐나?
프로그램을 제작 의뢰한 방송사 TV4는 이번 일이 AI 자체의 결함이 아니라, 사람들이 AI의 권한을 설정한 방식, 즉 “사람의 요인” 때문에 발생했다고 밝혔다. 스웨덴 신문 Aftonbladet의 취재원들은 AI가 파일 관리 작업을 맡았을 가능성이 크며, 그 때문에 파일을 삭제할 권한도 갖게 됐다고 전했다. 원본 영상은 편집 파일과 별도로 저장돼 있어 무사했다.
왜 중요한가
제작진이 편집 작업을 처음부터 다시 해야 해 시청자는 첫 방송을 늦게 보게 된다. 또한 AI 에이전트에 폭넓은 파일 접근 권한을 부여하고 백업 절차까지 부실하면 심각한 위험이 생길 수 있음을 보여준다.
