El investigador Andy Hall puso a prueba varios modelos de IA como auditores de otros agentes. Con un umbral de falsas alarmas del 5%, GPT‑5 detectó casi el 98% de los casos de manipulación de recompensas, mientras que modelos más recientes, como Gemini 3.8 Flash, solo identificaron cerca de la mitad. En las pruebas, las falsas alarmas siguieron siendo numerosas: una tasa del 3% generaría aproximadamente 3.000 alertas infundadas por cada 2.000 problemas reales en una carga de trabajo de 100.000 sesiones al mes.
Por qué importa
Los revisores humanos podrían verse desbordados por las alertas erróneas, lo que reduciría su capacidad para detectar conductas indebidas reales de los agentes.
