보리스 라도비치가 이끄는 연구진은 클라우드 전용 AI 에이전트와 소형 온디바이스 모델의 중간 지점을 살펴봤다. 클라우드가 프로그램을 작성하고, 사용자 데이터를 해석해야 할 때는 소형 로컬 모델을 호출하는 방식이다. AppWorld 벤치마크 테스트에서 하이브리드 설계는 6가지 모델·분할 조합 모두에서 코드만 사용하는 에이전트의 성공률을 높였다. 상승 폭은 최대 14.9%포인트였으며, 개인정보 보호를 유지하면서 클라우드에서 전 과정을 처리하는 ReAct 루프와의 격차를 상당 부분 좁혔다.
왜 중요한가
엣지 기기 사용자는 개인정보를 클라우드로 보내지 않고도 더 정확한 AI 비서를 이용할 수 있다.