軽量なRAGが人間のサポート手順を99.2%再現

Istok Bako氏らは、自然言語による指示、検索API、いくつかの形式チェックだけで構成される持ち運び可能なスキルが、カスタマーサポート向けの複雑な文書検索基盤を置き換えられることを示した。このスキルは、ポリシー文書を対象にLLMが生成したナビゲーション用インデックスを追加するもので、エンジニア1～2人日で構築できる。テストでは、99.2%のケースで正しい解決手順を再現し、83.3%のケースで十分な根拠を示した。一方、処理速度は同社の本番用アシスタントより約10倍遅く、1件あたり約90秒かかる。本番用アシスタントの所要時間は8～9秒だ。