Pesquisadores divulgaram uma técnica chamada PLVR, que transforma os passos detalhados de um modelo professor em um programa reutilizável. O programa funciona junto a um modelo de linguagem pequeno e congelado — até mesmo um modelo com 8 bilhões de parâmetros — e orienta suas ações. No conjunto de testes de telecomunicações, o modelo Granite‑4.2 8B passa de 43% para 91,2% de precisão quando usado com PLVR.
Como funciona o PLVR
Primeiro, o modelo professor Kimi‑K3 registra seus passos de raciocínio ao resolver problemas que exigem o uso de ferramentas. O PLVR agrupa esses registros para identificar operações recorrentes. Para cada operação, um modelo “de fronteira” escreve uma primitiva curta e tipada que um modelo pequeno e congelado pode executar. Em seguida, o sistema combina as primitivas usando uma busca A*, otimizando a escolha da ação final correta. Durante a inferência, o programa fornece uma cadeia de raciocínio para o modelo aluno seguir ou verifica e corrige cada ação proposta com uma ferramenta antes de enviá-la.
Resultados em diferentes áreas
O mesmo programa PLVR foi testado com três modelos-base Nemotron e com o Granite‑4.2‑8B em três benchmarks: telecomunicações, varejo e LiveMCPBench (um conjunto de testes de uso procedural de ferramentas). Em telecomunicações, todos os modelos Nemotron alcançaram precisão de 93,3% a 94,4%, enquanto o modelo 8B com PLVR chegou a 91,2% — apenas alguns pontos percentuais abaixo. No varejo e no LiveMCPBench, o programa PLVR se manteve competitivo com os melhores resultados publicados, embora tenha ficado de 3 a 13 pontos atrás no segundo. O método também reduziu de cerca de sete para cerca de dois pontos, em média, a diferença de desempenho entre os modelos-base.
Por que importa
Para desenvolvedores que criam assistentes capazes de usar ferramentas, o PLVR mostra que um modelo 8B relativamente barato pode ter desempenho quase tão bom quanto modelos muito maiores quando é orientado por um programa explícito. Isso pode reduzir os custos computacionais e tornar esses assistentes mais acessíveis, embora a abordagem ainda dependa de registros de alta qualidade produzidos pelo modelo professor e possa variar conforme a área.