Sopra Steria의 자문 부문인 Sopra Steria Next가 AI 거버넌스에 관한 새 CIO Compass 보고서를 발표했다. 보고서에 따르면 AI 기반 또는 자동화된 결정 가운데 담당 사업 책임자와 명시된 규칙, 공식적인 책임 체계가 마련된 경우는 20% 미만이다. 또 실제 운영 중인 AI 결정 중 25% 미만만 전 과정을 추적하고 재현할 수 있다고 밝혔다. 일반적인 IT 사고와 비교해 AI 결정 오류 한 건이 10~100배 더 많은 운영 업무와 고객, 매출에 영향을 미칠 수 있다고 경고했다.
왜 중요한가
책임 소재가 불분명한 AI 결정이 대규모 피해로 이어지지 않도록 CIO는 새로운 감독 절차를 마련해야 할 수 있다.