Baseten har presenterat Project Beacon, ett samarbete med Goodfire AI som lägger till proaktiva säkerhetskontroller när AI-modeller körs. Systemet läser av modellens interna aktiveringar medan den genererar text och kan blockera eller flagga osäkert innehåll, till exempel promptinjektioner, policyöverträdelser, dataläckor eller cybermissbruk. Enligt Baseten körs övervakningen parallellt med genereringen och medför därför ingen märkbar fördröjning. Företaget planerar att lansera funktionen för några tidiga samarbetspartner under de kommande månaderna och därefter utöka stödet till fler modeller och företagskontroller.
Varför det spelar roll
Företag kan tillämpa enhetliga säkerhetsregler för alla modeller, vilket minskar behovet av separata filter och manuella granskningar i takt med att AI-användningen ökar.
