Baseten a annoncé Project Beacon, un partenariat avec Goodfire AI qui ajoute des contrôles de sécurité proactifs à l’inférence des modèles d’IA. Le système analyse les activations internes d’un modèle pendant qu’il génère du texte et peut bloquer ou signaler les contenus dangereux, comme les injections de prompt, les violations de règles, les fuites de données ou les usages malveillants à des fins cyber. Baseten affirme que les outils de surveillance fonctionneront en parallèle de la génération, sans latence perceptible. L’entreprise prévoit de déployer cette fonctionnalité auprès de quelques partenaires pilotes au cours des prochains mois, puis de l’étendre à davantage de modèles et de contrôles destinés aux entreprises.
Pourquoi c'est important
Les entreprises peuvent appliquer des garde-fous de sécurité cohérents à tous les modèles, ce qui réduit le besoin de filtres distincts et de vérifications manuelles à mesure que l’usage de l’IA se développe.
