Anthropic이 새로운 AI 안전법을 위해 조용히 로비에 나섰다. 이 법안에 따르면 미국 정부는 AI 모델의 출시를 막을 수 있지만, 해당 모델이 50명 이상을 사망에 이르게 하거나 최소 10억 달러의 피해를 낼 수 있는 경우에만 가능하다. 법안은 상무부에 결정 권한을 부여하고, 독립 평가기관이 AI 연구소의 위험 평가를 검토하도록 한다.
법안은 어떻게 작동하나
Politico에 따르면 상무부에 등록된 제3자 평가기관이 정기적으로 Anthropic의 연구소와 AI 모델을 검토하게 된다. Anthropic이 평가기관에 비용을 지급할 수 있지만, 그 비용이 평가기관의 독립성에 영향을 미쳐서는 안 된다. Anthropic은 이 접근법이 6월부터 의원들에게 제안해 온 ‘Advanced AI Framework’를 따른다고 밝혔다.
왜 중요한가
법안이 통과되면 상무부는 위험한 AI 모델의 출시를 막을 권한을 갖지만, 피해 가능성이 매우 높은 기준을 넘어야만 조치할 수 있다. 일반 사용자 입장에서는 명확하고 대규모인 위험이 드러나지 않는 한 대부분의 AI 도구를 계속 사용할 수 있다는 뜻이며, 안전 우려는 대체로 기업들이 자체적으로 해결해야 한다.
