Исследователи представили метод PLVR, который превращает пошаговые записи решений модели-учителя в программу, пригодную для повторного использования. Она работает вместе с небольшой языковой моделью с замороженными параметрами — даже с моделью на 8 млрд параметров — и направляет её действия. На телеком-тесте точность модели Granite-4.2 на 8B выросла с 43% до 91,2% при использовании PLVR.
Как работает PLVR
Сначала модель-учитель Kimi-K3 записывает ход своих рассуждений, решая задачи с использованием инструментов. PLVR группирует эти записи, выявляя повторяющиеся операции. Для каждой операции модель «фронтира» создаёт короткую типизированную примитивную процедуру, которую может выполнить небольшая модель с замороженными параметрами. Затем система связывает процедуры с помощью алгоритма поиска A*, оптимизируя итоговое действие. Во время выполнения программа либо задаёт для студенческой модели цепочку рассуждений, которой та должна следовать, либо проверяет и исправляет каждое предложенное действие с инструментом перед отправкой.
Результаты в разных областях
Одну и ту же программу PLVR протестировали с тремя базовыми моделями Nemotron и моделью Granite-4.2-8B на трёх тестах: телеком, розничная торговля и LiveMCPBench — наборе задач на процедурное использование инструментов. В телеком-тесте точность каждой модели Nemotron составила 93,3–94,4%, а модель на 8B с PLVR показала 91,2% — всего на несколько процентных пунктов меньше. В тестах по розничной торговле и LiveMCPBench программа PLVR не уступала лучшим опубликованным базовым результатам, хотя на последнем тесте отставала на 3–13 пунктов. Кроме того, метод сократил средний разброс результатов базовых моделей примерно с семи до двух пунктов.
Почему это важно
Для разработчиков помощников, работающих с инструментами, PLVR показывает, что сравнительно недорогая модель на 8B может почти не уступать гораздо более крупным моделям, если направлять её с помощью специальной программы. Это может снизить вычислительные затраты и сделать таких помощников доступнее, хотя подход по-прежнему зависит от качественных записей решений модели-учителя, а результаты могут различаться в зависимости от области.
