Oossa

SACQ сокращает память для VLA-моделей в 4,83 раза при 1,5 бита

Исследователи утверждают, что их метод квантования сохранил успешность выполнения роботами задач при значительном уменьшении весов модели. Испытания проводились на GR00T N1.7 и LIBERO.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Исследователи представили SACQ — метод сжатия весов моделей «зрение — язык — действие», используемых для управления роботами. Точность представления для каждого слоя выбирается в том числе с учётом того, как его сжатие влияет на итоговые действия модели.

В испытаниях с GR00T N1.7 средний показатель успешного выполнения задач в четырёх наборах LIBERO составил, по данным команды, 93,85% при использовании 1,5 бита на каждый вес языковой/действующей части модели. При этом объём памяти для модели сократился в 4,83 раза. Это результаты, приведённые в статье на arXiv; представленный абстракт не подтверждает их независимую проверку и не указывает оборудование для запуска.

Почему это важно

Для команд, которые хотят запускать модели управления роботами на устройствах с ограниченной памятью, заявленное сжатие может упростить развёртывание. Однако в абстракте не указано, на каком оборудовании можно запустить SACQ, и не подтверждена независимая проверка результатов.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.