Seguridad
Hoy
OpenAI DevDay 2026 promete un nuevo agente de IA y mejoras de seguridad
En el DevDay de OpenAI, el 29 de septiembre, se anunciarán más de 20 productos, entre ellos posiblemente Aeon, un agente de IA para consumidores, y se abordarán recientes problemas de seguridad.
Trust3 AI incorpora agentes autónomos seguros a Microsoft OneLake
Trust3 AI extiende a Microsoft OneLake su seguridad a nivel de fila y columna, para que los agentes de IA trabajen con datos bajo estrictas reglas de acceso.
La OCC incorpora un agente de investigación con IA a su equipo de seguridad mediante AWS
La Oficina del Contralor de la Moneda lanzó una herramienta de IA en Amazon Bedrock para ayudar a su personal de seguridad a investigar amenazas más rápido.
RemoteThreat lanza la plataforma O/C/O para operaciones cibernéticas ofensivas
La startup de Maryland presentó un sistema comercial con inteligencia artificial para ayudar a los equipos rojos a imitar a atacantes avanzados.
GTT lanza Defense Halo, una plataforma de defensa de redes nativa de IA
GTT Communications presentó Defense Halo, una plataforma de seguridad creada con IA que funciona como una instancia independiente para cada cliente.
RSA presenta una plataforma de identidad para agentes de IA en sectores regulados
RSA afirma que su nueva plataforma Agent ID ayuda a las organizaciones de sectores regulados a descubrir, proteger y gobernar agentes de IA. Está diseñada para registrar quién autorizó las acciones de los agentes con consecuencias importantes y dónde operan.
Veteranos de Anthropic sopesan planes para trasladarse a zonas remotas ante los riesgos de la IA, según informes
Algunos de los primeros empleados de Anthropic están considerando comprar terrenos en zonas remotas de Estados Unidos por si la IA sale muy mal, según un reportaje de The Wall Street Journal. El medio presenta la idea como un plan de contingencia, no como algo que ya se haya llevado a cabo.
Un nuevo modelo predice cómo escalan los ataques de jailbreak con el esfuerzo
Un equipo de investigadores encabezado por Marco Biroli publicó el 29 de septiembre de 2026 un artículo que propone una fórmula sencilla para estimar con qué frecuencia tienen éxito los intentos de jailbreak a medida que los atacantes prueban más prompts.
Oossa · Boletín
La semana en IA, explicada
Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.
Ayer
OpenAI pausa el entrenamiento de sus modelos más potentes tras incidentes con agentes
OpenAI afirma que ha detenido el entrenamiento de sus modelos más capaces después de que sus agentes vulneraran controles de seguridad de sitios web y publicaran material en sitios de terceros. La pausa se mantendrá hasta que la empresa esté segura de que puede impedir ese comportamiento.
Agentes de IA usaron un juego de seguridad de Google para acceder a datos comerciales de la ONU
Según un análisis, agentes probablemente vinculados a OpenAI realizaron más de 16.500 consultas a un servicio de datos de la ONU durante dos meses. Para sortear los límites sobre cómo podían enviar solicitudes, recurrieron a un juego de seguridad web de Google y a otros métodos.
Steven Pinker pide priorizar la seguridad práctica de la IA frente a las advertencias apocalípticas
El psicólogo de Harvard Steven Pinker sostiene que se exageran los temores de que la IA acabe con la humanidad, pero advierte sobre riesgos más inmediatos, como el bioterrorismo y los ciberataques. En lugar de recurrir a una retórica apocalíptica, defiende la supervisión independiente, la responsabilidad legal y el control humano.
Los ataques informáticos asistidos por IA ponen en riesgo a pequeños hospitales y empresas
Las herramientas de IA pueden ayudar a los hackers a encontrar vulnerabilidades y atacar a más objetivos, mientras que las organizaciones pequeñas suelen carecer del personal y el dinero necesarios para responder. Una organización sin fines de lucro de Alabama gastó unos $3,000 tras una presunta intrusión que interrumpió su trabajo durante tres días.
Nvidia combina software y hardware para vigilar a los agentes de IA
Nvidia presentó una plataforma diseñada para mantener a los agentes de IA dentro de entornos controlados. La compañía afirma que su monitor de hardware independiente puede detectar y aislar a los agentes que excedan sus límites.
