Microsoft Research와 University of California, Berkeley가 코딩 에이전트의 토큰 사용량을 줄이기 위한 오픈소스 플러그인 TokenEconomizer를 공개했다. MarkTechPost에 따르면 이 플러그인은 이전 세션에서 학습하며, SWE-Bench에서 토큰 비용을 18.4%~30.9% 줄였다. 연구진은 에이전트 자체를 바꾸지 않고도 플러그인을 사용할 수 있다고 밝혔다.
토큰은 AI 시스템이 처리하는 텍스트의 단위다. 토큰을 적게 쓰면 에이전트가 모델을 사용하는 양을 줄일 수 있지만, 발표된 비율은 토큰 비용에 관한 수치일 뿐 구체적인 금액은 제시되지 않았다. 모든 사용자가 같은 수준의 절감 효과를 얻는다는 뜻도 아니다. 이 결과는 SWE-Bench에 한정되며, 작업이나 에이전트 설정에 따라 절감 폭이 어떻게 달라졌는지는 공개된 정보에 나와 있지 않다.
설명에 따르면 핵심은 플러그인이 이전 세션을 학습한다는 점이다. 다른 코딩 에이전트를 사용할 필요 없이 TokenEconomizer를 추가 기능으로 설치해 세션 기록을 바탕으로 토큰 사용 효율을 높이는 방식이다. 코딩 에이전트를 반복적으로 사용하는 팀에는 유용할 수 있지만, 어떤 정보를 저장하는지, 무엇을 재사용할지 어떻게 결정하는지, 사용자가 그 선택을 제어할 수 있는지는 설명되지 않았다.
아직 불분명한 점
보고된 절감 폭은 토큰 사용량을 줄일 가능성을 보여주는 고무적인 수치지만, 성능을 판단하는 데 필요한 세부 정보는 부족하다. MarkTechPost는 테스트에 사용한 모델이나 에이전트, 벤치마크 설정, 실행 횟수, 다른 토큰 절감 방식과의 비교 결과를 공개하지 않았다. 결과가 독립적으로 검증됐는지도 밝히지 않았다. 따라서 이 비율은 다른 코딩 작업에서도 보장되는 효과가 아니라, 단일 벤치마크에서 보고된 결과로 봐야 한다.
TokenEconomizer는 오픈소스로 소개됐지만, 발표 내용에는 저장소, 라이선스, 지원 에이전트, 설치 요건이 나와 있지 않다. 이런 정보가 있어야 개발자들이 얼마나 쉽게 시험해 볼 수 있는지, 현재 사용하는 도구와 호환되는지 판단할 수 있다. 현재 확인된 내용은 제한적이다. Microsoft Research와 UC Berkeley가 코딩 에이전트를 수정하지 않고도 SWE-Bench에서 토큰 비용을 줄일 수 있다고 밝힌 플러그인을 공개했다는 점이다.
왜 중요한가
코딩 에이전트를 사용하는 개발자는 비슷한 절감 효과가 자신의 작업에도 이어질 경우 사용 비용을 낮출 수 있다. 다만 보고된 결과는 SWE-Bench에 한정되며, 공개된 정보만으로는 실제 환경에서의 절감 효과나 구체적인 금액, 지원되는 에이전트를 확인할 수 없다.
