Oossa

Cambrian-BEV, 조감도 토큰으로 동영상 추론 속도 높여

새 토큰화 방식은 동영상 128프레임을 공간 토큰 729개로 압축해 LLM의 프리필 시간을 2.9배, 메모리 사용량을 3.6배 줄인다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

연구진은 동영상의 시각적 패치를 공통된 조감도(BEV) 격자에 매핑하는 방식인 Cambrian-BEV를 선보였다. 깊이 정보와 카메라 자세를 활용해 시점이나 시간과 관계없이 같은 장소를 담은 관측 정보를 하나로 합친다. 모델 아키텍처는 그대로 두고 프레임 토큰을 27×27 BEV 토큰으로 대체한다. VSI-Bench 테스트에서 63.48점을 기록해 프레임 토큰을 사용하는 기준 모델보다 8.5점 높은 점수를 얻었으며, 토큰 수는 훨씬 적게 사용했다.

왜 중요한가

공간을 더 정확하게 추론하면서도 더 빠르고 가벼운 동영상 기반 AI 비서를 개발할 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.