Onderzoekers van verschillende universiteiten hebben XInfer geïntroduceerd, een servingframework voor vision-language-actionmodellen (VLA) die worden gebruikt bij robotmanipulatie. XInfer stemt uiteenlopende VLA-berekeningen af op de timingbehoeften van robots, zodat GPU's actief blijven zonder kritieke feedback te vertragen. In tests met drie VLA-modellen en realistische robotwerkzaamheden bood XInfer 1.26 tot 3.75 keer zoveel effectieve robotcapaciteit als de beste bestaande systemen. De code is openbaar beschikbaar om uit te proberen.
Waarom het ertoe doet
Robotoperators kunnen met dezelfde hardware meer opdrachten uitvoeren, waardoor de kosten voor grote vloten dalen.
