Ajuste de soft prompts ajuda benchmarks de LLMs a avaliar conhecimento, não formato

A Aleph Alpha lançou um método que ajusta apenas alguns vetores treináveis — chamados soft prompts — para ensinar a um modelo de linguagem congelado o formato exato de resposta esperado por um benchmark. O ajuste leva cerca de 80 etapas, ou aproximadamente 1,5 minuto para um modelo de 7 bilhões de parâmetros, e eleva a precisão no cumprimento do formato para quase 100%, sem alterar o conhecimento do modelo.

Como a pontuação de conhecimento do modelo permanece estável enquanto o desempenho na formatação melhora, os pesquisadores podem comparar modelos-base de forma justa e prever sua classificação após o pós-treinamento completo, economizando semanas de computação.