Investigadores de varias universidades presentaron XInfer, un framework de serving para modelos de visión, lenguaje y acción (VLA) utilizados en la manipulación robótica. XInfer coordina los distintos tipos de cómputo de los modelos VLA con las necesidades de sincronización de los robots, mantiene las GPU ocupadas y evita retrasar la retroalimentación crítica. En pruebas con tres modelos VLA y cargas de trabajo de robots reales, XInfer ofreció entre 1.26 y 3.75 veces la capacidad efectiva para robots de los mejores sistemas existentes. El código se publicó para que otras personas puedan probarlo.
Por qué importa
Los operadores de robots pueden gestionar más trabajos con el mismo hardware, lo que reduce los costos de las flotas grandes.
