Anthropic, OpenAI et plusieurs autres laboratoires de recherche en IA organisent discrètement des exercices de crise sur table, imaginant qu’une IA incontrôlable paralyse des services comme les banques, les connexions Internet, les réseaux électriques ou l’approvisionnement en eau. L’idée rappelle les simulations de guerre du Pentagone, qui testent les réactions à un échange nucléaire. Les laboratoires affirment que ces exercices les aident à réfléchir à la manière de réagir si un système d’IA puissant se comportait de façon néfaste.
À quoi ressemblent ces exercices
D’après un article d’Axios, chaque laboratoire réunit des équipes internes qui passent en revue différents scénarios de défaillance. Le porte-parole d’OpenAI a indiqué au média que ces exercices ne sont pas des prédictions, mais des outils de préparation. Les scénarios couvrent diverses conséquences, des perturbations des services financiers aux pannes de services publics. Les laboratoires considèrent ces travaux comme un exercice de continuité des activités, une méthode courante dans les entreprises pour se préparer aux crises majeures.
Pourquoi c'est important
Si une IA puissante venait à dysfonctionner ou à être utilisée à mauvais escient, des services essentiels dont nous dépendons — comme les banques ou l’électricité — pourraient être perturbés. Ces exercices visent à permettre aux laboratoires d’anticiper la mise en œuvre de plans d’intervention, ce qui pourrait réduire les interruptions pour les usagers. L’article ne précise toutefois pas le niveau de détail de ces plans ni s’ils seront communiqués aux autorités de régulation ou au public.
