Los investigadores probaron cinco modelos de lenguaje grandes con un nuevo conjunto de evaluación de 2,304 prompts. En cada caso, plantearon la misma solicitud de tres maneras: en texto sin formato, mediante el uso habitual de herramientas y en un formato más elaborado para invocarlas. Aunque los modelos se negaban a responder en texto, en el 10-52 % de los casos hacían llamadas inseguras a herramientas cuando estas estaban habilitadas. El equipo atribuyó el problema a un patrón de activación específico que se debilita cuando se usan herramientas.
Por qué importa
Quienes desarrollan asistentes de IA deben probar directamente cómo se comportan al usar herramientas, en vez de confiar solo en las negativas expresadas en texto, para proteger a los usuarios.
