L’organisation à but non lucratif Palisade Research a publié une série d’entretiens vidéo avec des chercheurs en IA d’OpenAI, de Google DeepMind et d’Anthropic. Dans ces extraits, les scientifiques estiment qu’une future IA superintelligente pourrait être aussi dangereuse que le laissent entendre les discours alarmistes. Geoffrey Irving, qui a travaillé chez OpenAI et DeepMind, évalue à « une chance sur deux » le risque d’extinction de l’humanité. Neel Nanda, chercheur chez DeepMind, estime ce risque à « au moins 10 % ». Daniel Kokotajlo, ancien employé d’OpenAI, affirme qu’un système superintelligent serait « puissant comme un dieu » et que nous n’avons aucun moyen de le contrôler.
Ce qu’ont déclaré les chercheurs
Les vidéos abordent aussi les raisons pour lesquelles ces scientifiques continuent de travailler sur l’IA malgré les risques. Mary Phuong, de Google, dit qu’elle est « payée par le laboratoire », laissant entrevoir un conflit d’intérêts. Nanda ajoute que s’il ne pensait pas que son travail réduisait le risque existentiel, il démissionnerait — mais que les entreprises continueraient malgré tout à développer ces systèmes.
Palisade Research a publié les vidéos intégrales sur frominside.ai et a également compilé de courts extraits mettant en avant les déclarations les plus marquantes. Le site ne propose pas de solution unique et globale en matière de sécurité ; les chercheurs eux-mêmes ne s’accordent pas sur la manière de faire face à la menace.
Pourquoi c'est important
Ces avertissements montrent que même les meilleurs ingénieurs en IA voient un risque non négligeable de conséquences catastrophiques. Pour le grand public, cela signifie que le débat sur la sécurité de l’IA n’a rien d’une simple discussion théorique : il pourrait influer sur la vitesse de déploiement des outils d’IA puissants et sur les garde-fous qui les encadrent.
