Baseten은 DeepSeek, Kimi, GLM 등 오픈 모델을 대상으로 자사 Model APIs가 지연 도구 로딩을 지원한다고 발표했다. 시스템 프롬프트에서 도구 스키마를 제외하고, 필요할 때만 불러오는 방식이다. 플러그인 3개를 등록한 Claude Code 테스트에서 코딩 벤치마크 비용은 62.5% 줄고 속도는 26.2% 빨라졌다. 에이전트 벤치마크에서도 비용은 약 51%, 작업 시간은 15% 감소했다.
왜 중요한가
개발자는 모델이나 코드를 바꾸지 않고도 AI 에이전트를 더 저렴하고 빠르게 실행할 수 있다.