A Baseten anunciou o Project Beacon, uma parceria com a Goodfire AI que adiciona verificações preventivas de segurança à inferência de modelos de IA. O sistema analisa as ativações internas do modelo enquanto ele gera texto e pode bloquear ou sinalizar conteúdos inseguros, como injeções de prompt, violações de políticas, vazamentos de dados ou uso indevido para fins cibernéticos. Segundo a Baseten, os monitores funcionarão em paralelo à geração, sem acrescentar latência perceptível. A empresa planeja disponibilizar o recurso a alguns parceiros iniciais nos próximos meses e, depois, ampliá-lo para mais modelos e controles empresariais.
Por que importa
As empresas poderão aplicar proteções de segurança consistentes a qualquer modelo, reduzindo a necessidade de filtros separados e análises manuais à medida que o uso da IA cresce.
