앤스로픽은 Model Evaluation and Transparency Research(METR) 소속 연구원 6명이 자사 캠퍼스에서 앤스로픽의 위험 평가팀이 사용하는 것과 같은 장비와 내부 시스템을 이용해 일한다고 발표했다. 이 협력은 무급으로 진행되며 METR은 조사 결과를 공개할 수 있다. 다만 앤스로픽은 고객 데이터, 특권 정보 또는 모델 아키텍처 세부 사항이 포함된 경우 삭제를 요청할 수 있다.
왜 외부 기관에 이만큼 접근을 허용할까?
앤스로픽은 기업공개(IPO)를 준비하고 있으며, 기업가치가 2조 달러를 넘을 것으로 예상하고 있다. 투자자들은 안전 위험이 통제되고 있다는 증거를 요구해 왔다. METR 직원을 사내에 두면 앤스로픽은 직원에 준하는 투명한 모델 감독 체계를 보여줄 수 있다. 이는 은행이 위험한 행태가 대중에게 피해를 주기 전에 규제 당국이 이를 살펴볼 수 있도록 하는 방식과 비슷하다.
왜 중요한가
소비자 입장에서는 추가적인 감독으로 회사가 상장한 뒤 안전하지 않은 모델 행동이 제품에 반영될 가능성을 낮출 수 있다. 규제 당국도 위험을 평가하는 데 활용할 구체적인 자료를 얻을 수 있지만, 감독의 실효성은 지켜봐야 한다.
