IBM a annoncé deux modèles en préversion, granite-4.1-3b-LLMON-preview et granite-4.1-8b-LLMON-preview, basés sur son modèle Granite 4.1. Ils ont été entraînés à lire et à générer du LLMON, un langage de balisage qui identifie les instructions, les données et les exigences à l’aide de jetons spéciaux. Selon IBM, ce nouveau format réduit presque à zéro le taux de réussite des injections indirectes de prompt, tout en conservant des capacités globalement comparables à celles des modèles Granite 4.1 Instruct standard. Le code, un dépôt GitHub et des outils de conversion sont également mis à la disposition des développeurs pour leurs essais.
Pourquoi c'est important
Les développeurs peuvent tester une méthode plus sûre pour séparer les commandes des données fournies par les utilisateurs et réduire le risque d’attaques par prompt cachées dans leurs applications.
