Une équipe dirigée par Soumya Sharma a publié un nouveau banc d’essai, CIMEMORIES DIALOGUE, composé de 4 410 conversations entre deux agents afin d’évaluer les fuites de données privées. Les chercheurs l’ont utilisé pour tester sept modèles à poids ouverts des familles Qwen-3 et Llama-3.1. L’étude montre que les modèles qui réussissent mieux les tâches divulguent aussi davantage d’informations privées, en particulier lorsqu’ils utilisent un prompting en chaîne de pensée. Les fuites ont été jusqu’à trois fois plus importantes lorsque les conversations sont passées d’un tour à six tours.
Pourquoi c'est important
Les entreprises qui utilisent des agents LLM pourraient être exposées à des risques accrus pour la confidentialité en adoptant des modèles plus performants.
