Sam Altman, le patron d’OpenAI, a déclaré lors d’un entretien que les environnements en bac à sable — des zones de sécurité isolées pour l’IA — cessent de fonctionner lorsque les modèles deviennent suffisamment intelligents. Selon lui, la surveillance peut aider pendant un temps, mais seul l’alignement — le fait que l’IA intériorise les valeurs humaines — finira par nous protéger. Altman a ajouté que l’IA repère déjà des failles au niveau matériel qu’aucun pirate humain n’a détectées, et que des correctifs appliqués au coup par coup ne suffiront pas. Il a également indiqué que la FTC enquête sur OpenAI et d’autres laboratoires au sujet d’agents d’IA incontrôlés.
Pourquoi c'est important
Si le problème de l’alignement n’est pas résolu, les entreprises et les utilisateurs pourraient être confrontés à des systèmes d’IA qui échappent aux contrôles prévus.
