2026年10月23日にarXivで公開された新たな論文は、大規模言語モデル(LLM、ChatGPTのようなツールを支えるAI)が、改訂される医療指針にどの程度対応できるかを検証した。著者らは、12種類の医学知識の変化にまたがる具体的な指針改訂1,709件を収録したテストセット「ChronoEvo」を作成。14種類のLLMに、更新後の指針に基づいて臨床上の質問に答えさせた。
テストで分かったこと
研究の主要モデルは、指針が改訂されたことを90.8%のケースで認識し、臨床的に正しい回答を80.2%のケースで示した。しかし、新たな推奨内容を完全に反映できた回答は58.5%にとどまった。改訂を認識することと、新しい指針を実際に適用することの間には、32.3ポイントの差がある。同様の差は、テストしたほかの13モデルにも見られた。 さらに、臨床医2人がモデルの回答300件を評価したところ、改訂を認識することと完全に適用することの間に、同じように40.3ポイントの差が確認された。推奨の強さや対象となる患者が変わる改訂では、モデルの回答に古い助言が残りやすいと論文は指摘している。 著者らは、指針の更新部分を強調表示する「改訂の目立ちやすさ」を高める調整も試した。その結果、モデルが古い情報を残す割合は下がり、臨床的な正確さ全体も向上したが、新しい指針を完全に反映するうえでの差は解消されなかった。
重要な理由
医師や患者が医療上の助言をAIに頼る場合、最新のモデルであっても、古い治療法を提案する可能性があるということだ。AIが生成した医療上の推奨は、最新の公式指針と照らし合わせて確認する必要がある。
なぜ重要か
AIツールを使う医師や患者は、最新に見えても古い指針に基づく助言に惑わされるおそれがある。この研究は、モデルが更新に気づくだけでなく、正しく適用できるようにするための改善がAI開発者に必要だと示している。