연구진이 대규모 도구 목록에서 적절한 도구를 고르도록 대형 언어 모델 에이전트를 지원하는 검색 시스템 TRACER를 공개했다. TRACER는 과거의 도구 호출 시퀀스를 트라이(트리 형태의 색인)에 저장하고, 데이터 기반 정보와 문맥 단서를 결합해 다음에 사용할 수 있는 도구의 순위를 매긴다. 실험에서 GPT‑5.4는 TRACER를 통해 도구 128개 중 5개만 제시받고도 올바른 도구를 선택하는 비율을 4.7%포인트 높였으며, 단계당 입력 토큰은 약 80% 줄었다.
성능은 얼마나 향상되나?
테스트 환경 6곳과 언어 모델 4종을 대상으로 한 실험에서 TRACER는 24개 모델·환경 조합 중 21개에서 전체 도구 목록을 제시하는 방식보다 나은 성능을 보였다. 도구 선택 정확도는 평균 6~10%포인트 높아졌고, 성능이 떨어진 3개 조합에서도 하락 폭은 최대 2.2%포인트였다. 전체 턴을 수행하는 자율 실행 실험에서는 TRACER가 GPT‑5.4와 전체 작업 성공률은 같게 유지하면서 단계당 입력 토큰을 61% 적게 사용했다.
사용자에게 어떤 의미가 있나
재고 확인이나 통신 요금제 활성화처럼 외부 서비스에 연결해야 하는 AI 비서를 개발하는 사람들에게 TRACER는 비서를 더 빠르고 저렴하게 운영하는 데 도움이 될 수 있다. 언어 모델에 보내는 토큰 수를 크게 줄여주기 때문이다. 토큰 수가 줄면 이용 가능한 도구가 많을 때 모델의 컨텍스트 한도에 도달할 가능성도 낮아진다.
왜 중요한가
언어 모델에 보내야 하는 토큰이 줄어들어 개발자는 더 빠르게 반응하고 운영 비용은 낮은 AI 비서를 만들 수 있다. 이용자는 AI가 가격을 확인하거나 서비스를 예약하고 외부 시스템에서 정보를 가져올 때 더 빠른 응답을 받을 수 있다.
