Baseten ha annunciato Project Beacon, una collaborazione con Goodfire AI che introduce controlli di sicurezza proattivi durante l’inferenza dei modelli di IA. Il sistema analizza le attivazioni interne di un modello mentre genera testo e può bloccare o segnalare contenuti non sicuri, come attacchi di prompt injection, violazioni delle policy, fughe di dati o usi impropri in ambito informatico. Baseten afferma che i sistemi di monitoraggio funzioneranno in parallelo alla generazione, senza aggiungere una latenza percepibile. L’azienda prevede di introdurre la funzionalità presso alcuni partner iniziali nei prossimi mesi, per poi estenderla ad altri modelli e ai controlli aziendali.
Perché conta
Le aziende possono applicare protezioni di sicurezza uniformi a qualsiasi modello, riducendo la necessità di filtri separati e verifiche manuali man mano che cresce l’uso dell’IA.
