Un nouveau modèle prédit comment les attaques par jailbreak évoluent avec les efforts déployés

Le 29 septembre 2026, l’informaticien Marco Biroli a publié sur arXiv un article intitulé « Escaping Alignment: A Physical Trap Model of Best‑of‑N Jailbreaking ». Il présente un « modèle de barrière » simple qui explique comment le taux de réussite des attaques par jailbreak évolue lorsque l’attaquant augmente deux variables : le nombre de variantes de prompt (N) et le nombre de réponses par variante (M). Le modèle ne repose que sur quatre paramètres liés aux mécanismes de sécurité, mais il peut prédire les résultats d’attaques bien plus vastes que celles testées jusqu’ici.

Que permet le nouveau modèle ?

Le modèle attribue à chaque prompt un niveau de sécurité de base, auquel s’ajoute une « barrière » aléatoire que l’attaquant peut franchir en essayant suffisamment de variantes. En ajustant les quatre paramètres à partir de données provenant de cinq modèles de langage différents, les auteurs montrent que les résultats des cinq modèles suivent la même courbe de mise à l’échelle. Ils peuvent ainsi extrapoler des expériences menées avec jusqu’à 100 variantes de prompt à des scénarios en comptant 10 000, ce que les études précédentes ne permettaient pas de faire de manière fiable.

L’article examine également l’effet de la température de génération — un réglage qui contrôle le degré d’aléatoire des réponses de l’IA — sur la réussite des attaques. À l’aide des mêmes quatre paramètres, les auteurs peuvent prédire les taux de réussite à des températures qu’ils n’ont jamais testées.

Pourquoi est-ce important pour la sécurité de l’IA ?

Si les prédictions du modèle se confirment, les ingénieurs chargés de la sécurité pourront estimer le nombre de variantes de prompt qu’un attaquant devrait essayer pour qu’un jailbreak devienne probable. Cela les aidera à fixer des limites réalistes au nombre de prompts autorisés par les API publiques et à déterminer avec quelle vigilance surveiller les comportements suspects.

Ces travaux remettent également en question des affirmations antérieures selon lesquelles la réussite des attaques suivrait une simple loi de puissance en fonction de N. En mettant en évidence une courbe plus nuancée, qui dépend de la température, ils suggèrent que les défenses doivent prendre en compte plusieurs facteurs, et pas seulement le nombre de tentatives.