Исследователи из нескольких университетов представили XInfer — систему для запуска моделей «зрение — язык — действие» (VLA), применяемых в роботизированных манипуляциях. XInfer согласует вычисления разных VLA-моделей с временными требованиями роботов: GPU остаются загруженными, а критически важная обратная связь не задерживается. В испытаниях на трёх VLA-моделях с реальными рабочими нагрузками роботов XInfer обеспечила эффективную производительность от 1,26 до 3,75 раза выше, чем лучшие существующие системы. Код открыт для всех желающих.
Почему это важно
Операторы роботов смогут выполнять больше задач на том же оборудовании, снижая расходы на управление большими парками.