# Ajuste de soft prompts ajuda benchmarks de LLMs a avaliar conhecimento, não formato

> A Aleph Alpha mostra que treinar apenas dez vetores minúsculos por um minuto permite que modelos-base respondam no formato correto, oferecendo pontuações mais claras.

Oossa · 2026-09-29 · https://oossa.com/pt/soft-prompt-tuning-helps-llm-benchmarks-focus-on-knowledge-not-format

A Aleph Alpha lançou um método que ajusta apenas alguns vetores treináveis — chamados soft prompts — para ensinar a um modelo de linguagem congelado o formato exato de resposta esperado por um benchmark. O ajuste leva cerca de 80 etapas, ou aproximadamente 1,5 minuto para um modelo de 7 bilhões de parâmetros, e eleva a precisão no cumprimento do formato para quase 100%, sem alterar o conhecimento do modelo.

Como a pontuação de conhecimento do modelo permanece estável enquanto o desempenho na formatação melhora, os pesquisadores podem comparar modelos-base de forma justa e prever sua classificação após o pós-treinamento completo, economizando semanas de computação.

## Os fatos

- 10 vetores de soft prompt representam 0,0006% dos parâmetros de um modelo de 7 bilhões de parâmetros
- O treinamento leva cerca de 80 etapas, ou aproximadamente 1,5 minuto em um modelo de 7 bilhões de parâmetros

## Por que importa

Isso permite que desenvolvedores avaliem e classifiquem modelos rapidamente, sem o custo de um treinamento completo, concentrando-se no que o modelo realmente sabe.

## Fontes e referências

1. [Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation](https://www.aleph-alpha.com/en/blog/soft-prompt-tuning-for-fair-and-efficient-llm-benchmark-evaluation/) – Aleph Alpha, 2026-09-29

Última atualização: 2026-09-29
