Forschende mehrerer Universitäten haben XInfer vorgestellt, ein Serving-Framework für Vision-Language-Action-Modelle (VLA), die bei der robotischen Manipulation eingesetzt werden. XInfer stimmt die unterschiedlichen Berechnungen der VLA-Modelle auf den Zeitbedarf der Roboter ab: So bleiben die GPUs ausgelastet, ohne dass wichtige Rückmeldungen verzögert werden. In Tests mit drei VLA-Modellen und realen Arbeitslasten von Robotern erreichte XInfer die 1,26- bis 3,75-fache effektive Roboterkapazität der besten bestehenden Systeme. Der Code ist öffentlich verfügbar und kann ausprobiert werden.
Warum es wichtig ist
Roboterbetreiber können mit derselben Hardware mehr Aufträge erledigen und so die Kosten für große Flotten senken.
