Baseten anunció Project Beacon, una colaboración con Goodfire AI que incorpora controles de seguridad proactivos durante la inferencia de modelos de IA. El sistema analiza las activaciones internas del modelo mientras genera texto y puede bloquear o marcar contenido inseguro, como ataques de inyección de prompts, infracciones de políticas, filtraciones de datos o usos indebidos con fines cibernéticos. Baseten afirma que los monitores funcionarán en paralelo con la generación, por lo que no añadirán una latencia perceptible. La empresa prevé implementar la función con algunos socios iniciales en los próximos meses y, luego, extenderla a más modelos y controles empresariales.
Por qué importa
Las empresas podrán aplicar protecciones de seguridad uniformes en cualquier modelo, lo que reducirá la necesidad de usar filtros independientes y realizar revisiones manuales a medida que crezca el uso de la IA.
