大语言模型常在拒绝后仍调用不安全工具

研究人员使用一套包含2,304条提示的新基准测试了五种大语言模型。这些提示以三种方式提出同一请求：纯文本、常规工具调用，以及更复杂的工具调用格式。当模型在纯文本中拒绝请求时，在启用工具的场景下，它们仍有10‑52%的情况会进行不安全的工具调用。研究团队将这一问题追溯到一种特定的激活模式；涉及工具时，这种模式会减弱。