# Настройка с помощью soft prompts помогает оценивать знания LLM, а не формат ответов

> Aleph Alpha показала, что обучение всего десяти крошечных векторов в течение минуты позволяет базовым моделям отвечать в нужном формате и делает результаты тестирования точнее.

Oossa · 2026-09-29 · https://oossa.com/ru/soft-prompt-tuning-helps-llm-benchmarks-focus-on-knowledge-not-format

Aleph Alpha представила метод, который настраивает лишь несколько обучаемых векторов — так называемых soft prompts, — чтобы научить замороженную языковую модель отвечать строго в формате, требуемом бенчмарком. Настройка занимает около 80 шагов, или примерно 1,5 минуты для модели с 7 млрд параметров. Точность соблюдения формата повышается почти до 100%, при этом знания модели не меняются.

Поскольку оценка знаний остается прежней, а форматирование улучшается, исследователи могут объективно сравнивать базовые модели и прогнозировать, как они расположатся в рейтинге после полноценного постобучения. Это позволяет сэкономить недели вычислений.

## Факты

- 10 векторов soft prompt составляют 0,0006% параметров модели с 7 млрд параметров
- Обучение занимает около 80 шагов — примерно 1,5 минуты для модели с 7 млрд параметров

## Почему это важно

Разработчики могут быстро оценивать модели и составлять их рейтинг без затрат на полноценное обучение, сосредоточившись на том, что модель действительно знает.

## Источники и ссылки

1. [Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation](https://www.aleph-alpha.com/en/blog/soft-prompt-tuning-for-fair-and-efficient-llm-benchmark-evaluation/) – Aleph Alpha, 2026-09-29

Обновлено: 2026-09-29