HiddenLayer a testé Jev, le modèle de TypeSafe AI qui renvoie des décisions plutôt que du texte libre. Dans une boutique simulée, une publicité affirmant qu’une réduction n’avait pas été appliquée a poussé un agent de navigation à cliquer sur « confirmer le prix » au lieu de valider le panier. Le prompt lui demandait pourtant de traiter le contenu de la page comme une donnée non fiable.
Les chercheurs ont aussi constaté qu’en modifiant légèrement la forme de mots dans des requêtes toxiques, ils pouvaient réduire les scores de toxicité attribués par Jev. TypeSafe AI n’avait pas réagi à l’étude au moment de la publication de l’article. Les résultats concernent les tests de HiddenLayer; le texte ne mentionne pas de validation indépendante.
Pourquoi c'est important
Les entreprises qui utilisent Jev pour guider des agents ou filtrer des requêtes ne peuvent pas compter uniquement sur son format de réponse pour éviter les attaques; l’efficacité de protections supplémentaires reste à établir.
