# LayerTrim reduz modelos sem treino e preserva o raciocínio

> O novo método remove partes das MLPs nas camadas do decodificador. No Qwen3‑14B, acelera o processamento inicial em 1,24× e reduz o uso de memória em 19,7%, preservando o raciocínio em respostas longas.

Oossa · 2026-10-15 · https://oossa.com/pt/layertrim-offers-training-free-pruning-that-keeps-reasoning-ability

Pesquisadores apresentaram o LayerTrim, uma técnica estruturada de poda de grandes modelos de linguagem que dispensa treinamento. Ela remove camadas redundantes do decodificador, mas mantém intactos os mecanismos de atenção, o que ajuda a preservar o desempenho em tarefas que exigem raciocínio em respostas longas. No modelo Qwen3 de 14 bilhões de parâmetros, o LayerTrim torna o processamento inicial 1,24 vezes mais rápido e reduz em 19,7% o pico de uso de memória da GPU em comparação com o modelo sem poda. Em três modelos e cinco benchmarks, melhorou a precisão média em até 21,4 pontos em relação ao método anterior, RESP.

## Os fatos

- Artigo publicado em Thu Oct 15 2026
- No Qwen3‑14B, o LayerTrim acelera o processamento inicial em 1,24× e reduz em 19,7% o pico de uso de memória da GPU

## Por que importa

Desenvolvedores podem implantar modelos de linguagem menores e mais rápidos para tarefas de raciocínio sem precisar de um retreinamento caro.

## Fontes e referências

1. [Unlocking Structured Pruning for Reasoning Language Models via Attention-Preserving MLP Trimming](https://arxiv.org/abs/2610.19121) – arXiv cs.LG, 2026-10-15

Última atualização: 2026-10-15