Sopra Steriaのアドバイザリー部門であるSopra Steria Nextは、AIガバナンスに関する新たな「CIO Compass」レポートを発表した。同レポートによると、AIによる判断や自動化された判断のうち、事業責任者が特定され、明確なルールと正式な説明責任が定められているものは20 %未満だった。また、本番環境で行われるAIの判断のうち、完全に追跡・再現できるものは25 %に満たないという。AIの判断ミス1件が、一般的なIT障害と比べて10~100倍の業務、顧客、または売上に影響を及ぼす可能性があると警告している。
なぜ重要か
説明責任の所在が不明確なAIの判断による大規模な影響を防ぐため、CIOには新たな監督プロセスが必要になる可能性がある。