Ricercatori di diverse università hanno presentato XInfer, un framework di serving per modelli vision-language-action (VLA) impiegati nella manipolazione robotica. XInfer coordina le diverse elaborazioni dei modelli VLA con le esigenze temporali dei robot, mantenendo occupate le GPU senza ritardare i feedback critici. Nei test condotti su tre modelli VLA con carichi di lavoro robotici reali, XInfer ha garantito una capacità effettiva dei robot da 1,26 a 3,75 volte superiore rispetto ai migliori sistemi esistenti. Il codice è stato reso pubblico, così che altri possano provarlo.
Perché conta
Gli operatori possono gestire più attività con lo stesso hardware, riducendo i costi delle flotte di grandi dimensioni.
