Pesquisadores de várias universidades apresentaram o XInfer, uma estrutura de execução para modelos de visão-linguagem-ação (VLA) usados na manipulação robótica. O XInfer coordena diferentes tipos de computação dos modelos VLA com as necessidades de tempo dos robôs, mantendo as GPUs ocupadas sem atrasar respostas críticas. Em testes com três modelos VLA e cargas de trabalho de robôs em situações reais, o XInfer alcançou uma capacidade efetiva de robôs de 1,26 a 3,75 vezes a dos melhores sistemas existentes. O código foi disponibilizado publicamente para que outras pessoas possam testá-lo.
Por que importa
Operadores de robôs podem realizar mais tarefas com o mesmo hardware, reduzindo os custos de grandes frotas.