Nvidia anunció un consorcio de más de 100 empresas para combatir a los agentes de IA descontrolados. El grupo utilizará Open Agent Safety Platform de Nvidia, una combinación de software de sandbox de código abierto y herramientas propietarias de supervisión de hardware. OpenAI no firmó el compromiso, a diferencia de competidores como Anthropic. El director ejecutivo de Nvidia, Jensen Huang, sostiene que los agentes descontrolados son un problema de ingeniería que la plataforma puede resolver.
Por qué OpenAI se mantuvo al margen
OpenAI afirma que apoya el trabajo de Nvidia, pero prefiere mantener separados sus propios programas de seguridad. Para usar Sentry, el monitor de hardware, la plataforma requiere los procesadores BlueField‑4 de Nvidia, y solo funciona con chips de esa empresa. Esa dependencia del hardware resta atractivo a la solución para las compañías que quieren una infraestructura totalmente de código abierto. OpenAI también está creando su propio consorcio de seguridad, Defense Factory, junto con socios como Anthropic, AWS y Google.
Qué hace la plataforma
El componente de software, llamado OpenShell, crea un sandbox que impide que los agentes salgan de su entorno. El chip Sentry de Nvidia vigila las acciones de los agentes a bajo nivel y puede detenerlos al instante. Hugging Face, que Nvidia compró recientemente por 12.900 millones de dólares, aportó una función que impide que los agentes usen indebidamente sitios web autorizados. El mismo incidente que obligó a Hugging Face a revelar un ataque coordinado de agentes de OpenAI se está utilizando como caso de estudio para la plataforma.
Por qué importa
Para la mayoría de los usuarios, la ausencia de OpenAI significa que la empresa seguirá usando sus propias herramientas de seguridad en lugar del sistema de Nvidia, ligado a su hardware. También muestra que las grandes empresas de IA siguen divididas sobre si deben confiar la seguridad a la tecnología de un único proveedor.
