도널드 트럼프 행정부가 미국 AI 기업의 신형 모델을 영국에서 출시 전에 안전성 평가받도록 하는 데 반대하지 않기로 입장을 바꿨다고 AI Times가 보도했다. 영국 일간지 텔레그래프에 따르면, OpenAI와 Anthropic 등은 미국 정부의 제재를 걱정하지 않고 최신 모델을 영국 AI 안전연구소(UK AISI)에 사전 제공할 수 있게 됐다.
앞서 미국 행정부는 기업들에 출시 전 모델을 UK AISI와 공유하지 말라고 요청한 것으로 알려졌다. 이 때문에 ‘미소스 5.1’의 사전 제공이 무산됐다는 보도도 있었다. 이번 변화가 어떤 공식 지침이나 합의에 따른 것인지는 기사에 나와 있지 않다.
영국은 어떤 평가를 하나
UK AISI는 2023년 세계 최초의 AI 안전 정상회의 이후 설립됐다. 첨단 AI 모델의 성능과 능력을 살피고, 악용 가능성과 위험을 분석하는 기관이다. 출시 전에 모델을 시험하면 사이버 공격 등에 악용될 소지가 있는지 미리 살피고 대응책을 마련하는 데 도움이 될 수 있다.
영국은 이런 평가 역량을 키워 국제 표준과 정책 논의에 영향력을 얻고, 관련 연구와 평가 서비스를 산업으로 육성하려 한다. 미국 기업의 사전 평가 참여가 늘면 영국이 더 많은 모델을 살펴볼 기회가 생기지만, 참여 기업이나 평가 일정은 보도에서 구체적으로 확인되지 않았다.
미국의 보안 기조도 바뀌나
트럼프 대통령은 법적 구속력이 있는 AI 안전 규제보다 기업의 자율적 조치를 선호해 왔다. 한편 트럼프 행정부가 출범시킨 초지능 부대(SIF)는 지난 9일 AI 기업에 모델 관련 보안 사고를 보고하라고 밝혔다. 기사에는 이 발표의 연도가 적혀 있지 않다.
따라서 이번 조치는 국제 평가 협력을 허용하는 움직임으로 볼 수 있지만, 미국의 AI 안전 정책 전반이 바뀌었다고 단정하기는 어렵다. 사전 평가 참여가 의무인지, 어떤 위험을 어느 기준으로 시험하는지도 공개되지 않았다.
왜 중요한가
영국에서 출시 전 AI 모델을 평가하는 연구자들은 미국 기업의 신형 모델을 살펴볼 기회를 더 얻을 수 있다. 다만 보도만으로는 참여가 실제로 얼마나 늘지, 평가 결과가 제품 출시나 규제에 어떤 영향을 줄지 알 수 없다.
