Nvidia meddelade att över 100 företag går samman för att bekämpa AI-agenter som löper amok. Gruppen ska använda Nvidias Open Agent Safety Platform, som kombinerar sandlådemjukvara med öppen källkod och proprietär hårdvaruövervakning. OpenAI skrev inte under uppropet, till skillnad från konkurrenter som Anthropic. Nvidias vd Jensen Huang beskriver agenter som löper amok som ett tekniskt problem som plattformen kan lösa.
Därför står OpenAI utanför
OpenAI säger att bolaget stöder Nvidias arbete, men föredrar att hålla sina egna säkerhetsprogram separata. Plattformens hårdvaruövervakning, Sentry, kräver Nvidias BlueField‑4-processorer och fungerar bara med Nvidias chip. Den inlåsningen gör lösningen mindre attraktiv för företag som vill ha en helt öppen teknikstack. OpenAI bygger också en egen säkerhetsallians, Defense Factory, tillsammans med bland andra Anthropic, AWS och Google.
Så fungerar plattformen
Mjukvaran, som kallas OpenShell, skapar en sandlåda som hindrar agenter från att ta sig ut ur sin miljö. Nvidias Sentry-chip övervakar agenternas handlingar på låg nivå och kan stoppa dem omedelbart. Hugging Face, som nyligen köptes av Nvidia för 12,9 miljarder dollar, bidrog med en funktion som hindrar agenter från att missbruka webbplatser de har tillåtelse att använda. Samma incident som tvingade Hugging Face att avslöja en samordnad attack från OpenAI:s agenter används som fallstudie för plattformen.
Varför det spelar roll
För de flesta användare innebär OpenAIs frånvaro att bolaget fortsätter att använda sina egna säkerhetsverktyg i stället för Nvidias hårdvarubundna system. Det visar också att de stora AI-företagen fortfarande är splittrade i frågan om säkerheten ska bygga på en enda leverantörs teknik.
