# LayerTrim ускоряет модели без потери навыков рассуждения

> Новый метод LayerTrim без дополнительного обучения удаляет части MLP в слоях декодера. На Qwen3‑14B он ускоряет обработку входных данных в 1,24 раза и снижает расход памяти на 19,7%, сохраняя способность к развернутым рассуждениям.

Oossa · 2026-10-15 · https://oossa.com/ru/layertrim-offers-training-free-pruning-that-keeps-reasoning-ability

Исследователи представили LayerTrim — метод структурного сокращения больших языковых моделей без дополнительного обучения. Он удаляет избыточные слои декодера, сохраняя механизмы внимания, благодаря чему модель не теряет эффективность в задачах, требующих развернутых рассуждений. На модели Qwen3 с 14 миллиардами параметров LayerTrim ускоряет обработку входных данных в 1,24 раза и снижает пиковое потребление памяти GPU на 19,7% по сравнению с исходной моделью. В тестах на трех моделях и пяти бенчмарках средняя точность оказалась до 21,4 пункта выше, чем у предыдущего метода RESP.

## Факты

- Статья опубликована в четверг, 15 октября 2026 года
- На Qwen3‑14B LayerTrim ускоряет обработку входных данных в 1,24 раза и снижает пиковое потребление памяти GPU на 19,7%

## Почему это важно

Разработчики смогут развертывать более компактные и быстрые языковые модели для задач на рассуждение без затратного переобучения.

## Источники и ссылки

1. [Unlocking Structured Pruning for Reasoning Language Models via Attention-Preserving MLP Trimming](https://arxiv.org/abs/2610.19121) – arXiv cs.LG, 2026-10-15

Обновлено: 2026-10-15