Oossa

Baseten, 오픈 모델에 지연 도구 로딩 도입…에이전트 비용 최대 62% 절감

새 기능은 토큰 사용량을 줄이고 작업 속도를 높인다. 코딩 에이전트의 비용은 최대 62.5%, 작업 시간은 26% 줄었다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

Baseten은 DeepSeek, Kimi, GLM 등 오픈 모델을 대상으로 자사 Model APIs가 지연 도구 로딩을 지원한다고 발표했다. 시스템 프롬프트에서 도구 스키마를 제외하고, 필요할 때만 불러오는 방식이다. 플러그인 3개를 등록한 Claude Code 테스트에서 코딩 벤치마크 비용은 62.5% 줄고 속도는 26.2% 빨라졌다. 에이전트 벤치마크에서도 비용은 약 51%, 작업 시간은 15% 감소했다.

왜 중요한가

개발자는 모델이나 코드를 바꾸지 않고도 AI 에이전트를 더 저렴하고 빠르게 실행할 수 있다.

출처 및 참고 자료

1 개 출처
  1. Baseten원본 출처 읽기

Markdown

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.