Oossa

Cambrian-BEV snabbar upp videoförståelse med fågelperspektivstoken

En ny tokeniseringsmetod komprimerar 128 videobilder till 729 rumsliga token. Det minskar förberedelsetiden för LLM:er med 2.9× och minnesanvändningen med 3.6×.

NotisAv Publicerad av Oossa: 1 min läsning

Forskare har presenterat Cambrian-BEV, en metod för att placera visuella utsnitt från video i ett gemensamt rutnät sett uppifrån. Med hjälp av djup och kamerans position slår metoden ihop observationer av samma plats, oavsett perspektiv eller tidpunkt. Modellarkitekturen förblir densamma, men bildrutornas token ersätts med BEV-token i ett rutnät på 27×27. I testet VSI-Bench fick metoden 63.48 poäng, 8.5 poäng mer än en baslinje med bildrutetoken – samtidigt som den använde betydligt färre token.

Varför det spelar roll

Det gör det möjligt för utvecklare att bygga snabbare och mer resurssnåla AI-assistenter som använder video och kan resonera mer tillförlitligt om rumsliga förhållanden.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.