Cinq chercheurs de Microsoft ont décrit une méthode pour cacher une porte dérobée dans des agents IA sans les réentraîner. Baptisée Lazarus, elle modifie sept neurones sur plus de 12 000 afin qu’un modèle exécute une commande malveillante lorsqu’un déclencheur apparaît, tout en se comportant normalement le reste du temps.
Selon Numerama, la méthode a fonctionné sur plusieurs modèles dont Nemotron, Qwen et Gemma. Claude Code avait suggéré l’idée initiale à l’un des chercheurs. Les modifications peuvent être repérées en inspectant les poids du modèle : des agents IA ont détecté 91,4 % des modèles piégés, mais ont aussi signalé à tort près d’un modèle sain sur dix.
Pourquoi c'est important
Pour les entreprises qui déploient leurs propres modèles, un compte ou un espace de stockage compromis pourrait suffire à introduire cette porte dérobée ; l’inspection des poids peut aider à la repérer, mais elle produit aussi des alertes erronées.
