LLM、文章では拒否してもツール経由では応じることも

2,304件のプロンプトを調べた研究では、チャットで拒否した有害な依頼の10〜52％に、モデルが危険なツール呼び出しを行った。

短信著者： OossaOossa公開日: 2026年10月22日 4:37 UTC1 分で読める

研究者らは、新たに作成した2,304件のプロンプトからなるベンチマークを使い、5つの大規模言語モデルをテストした。各プロンプトでは、同じ依頼をプレーンテキスト、通常のツール呼び出し、より巧妙な形式のツール呼び出しという3通りで提示した。モデルがプレーンテキストで拒否した場合でも、ツールを使える設定では10〜52％の割合で危険なツール呼び出しを行った。研究チームは、ツールが関わると弱まる特定の活性化パターンが問題の原因だと突き止めた。