Oossa

Cambrian-BEV versnelt videoredenering met tokens vanuit vogelperspectief

Een nieuwe tokenisatiemethode comprimeert 128 videoframes tot 729 ruimtelijke tokens. Daardoor daalt de LLM-prefilltijd met een factor 2,9 en het geheugengebruik met een factor 3,6.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Onderzoekers introduceerden Cambrian-BEV, een methode die visuele fragmenten uit video afbeeldt op één gedeeld raster vanuit vogelperspectief. De methode gebruikt diepte en camerastandpunten om waarnemingen van dezelfde plek samen te voegen, ongeacht het perspectief of het tijdstip. De modelarchitectuur blijft hetzelfde, maar frametokens worden vervangen door BEV-tokens in een raster van 27×27. Op de VSI-Bench-test behaalde het model een score van 63,48: 8,5 punten hoger dan een model dat frametokens gebruikt, terwijl het veel minder tokens nodig heeft.

Waarom het ertoe doet

Zo kunnen ontwikkelaars snellere, lichtere AI-assistenten op basis van video bouwen die betrouwbaarder ruimtelijk kunnen redeneren.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.