Oossa

Modelo 8B alcança rivais maiores com ajuda de programa especialista

Um novo método chamado PLVR permite que um modelo de 8 bilhões de parâmetros supere 90% de precisão em tarefas de uso de ferramentas no setor de telecomunicações, reduzindo a diferença em relação a modelos muito maiores.

Por Publicado pelo Oossa: 1 min de leitura

Pankaj Patel · Unsplash

Pesquisadores divulgaram uma técnica chamada PLVR, que transforma os passos detalhados de um modelo professor em um programa reutilizável. O programa funciona junto a um modelo de linguagem pequeno e congelado — até mesmo um modelo com 8 bilhões de parâmetros — e orienta suas ações. No conjunto de testes de telecomunicações, o modelo Granite‑4.2 8B passa de 43% para 91,2% de precisão quando usado com PLVR.

Como funciona o PLVR

Primeiro, o modelo professor Kimi‑K3 registra seus passos de raciocínio ao resolver problemas que exigem o uso de ferramentas. O PLVR agrupa esses registros para identificar operações recorrentes. Para cada operação, um modelo “de fronteira” escreve uma primitiva curta e tipada que um modelo pequeno e congelado pode executar. Em seguida, o sistema combina as primitivas usando uma busca A*, otimizando a escolha da ação final correta. Durante a inferência, o programa fornece uma cadeia de raciocínio para o modelo aluno seguir ou verifica e corrige cada ação proposta com uma ferramenta antes de enviá-la.

Resultados em diferentes áreas

O mesmo programa PLVR foi testado com três modelos-base Nemotron e com o Granite‑4.2‑8B em três benchmarks: telecomunicações, varejo e LiveMCPBench (um conjunto de testes de uso procedural de ferramentas). Em telecomunicações, todos os modelos Nemotron alcançaram precisão de 93,3% a 94,4%, enquanto o modelo 8B com PLVR chegou a 91,2% — apenas alguns pontos percentuais abaixo. No varejo e no LiveMCPBench, o programa PLVR se manteve competitivo com os melhores resultados publicados, embora tenha ficado de 3 a 13 pontos atrás no segundo. O método também reduziu de cerca de sete para cerca de dois pontos, em média, a diferença de desempenho entre os modelos-base.

Por que importa

Para desenvolvedores que criam assistentes capazes de usar ferramentas, o PLVR mostra que um modelo 8B relativamente barato pode ter desempenho quase tão bom quanto modelos muito maiores quando é orientado por um programa explícito. Isso pode reduzir os custos computacionais e tornar esses assistentes mais acessíveis, embora a abordagem ainda dependa de registros de alta qualidade produzidos pelo modelo professor e possa variar conforme a área.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.