Sopra Steria Next, de adviestak van Sopra Steria, heeft een nieuw CIO Compass-rapport over AI-governance gepubliceerd. Volgens het rapport heeft minder dan 20% van de AI-gestuurde of geautomatiseerde besluiten een aangewezen verantwoordelijke binnen het bedrijf, expliciete regels en formele verantwoordingsplicht. Ook blijkt dat minder dan 25% van de AI-besluiten die in productie zijn genomen volledig kan worden getraceerd en gereproduceerd. Het rapport waarschuwt dat één foutief AI-besluit 10 tot 100 keer meer bedrijfsprocessen, klanten of omzet kan raken dan een doorsnee IT-incident.
Waarom het ertoe doet
CIO’s hebben mogelijk nieuwe toezichtprocessen nodig om grootschalige gevolgen van AI-besluiten zonder duidelijke verantwoordingsplicht te voorkomen.
