Oossa

RL дообучение повысило стабильность Qwen3.8‑27B в ThinkingBox

После 50 шагов обучения на данных офлайн-политики Qwen3.8‑27B увеличила число задач, выполненных без ошибок, с 38 до 107 из 507 в ThinkingBox‑Bench.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Microsoft и Hugging Face опубликовали на GitHub код ThinkingBox‑Training. Для дообучения модели Qwen3.8‑27B они использовали вознаграждение, основанное на проверках состояния базы данных. После 50 шагов GRPO показатель pass@1 вырос с 51.70% до 60.78%, а число задач, которые модель правильно выполняла во всех 20 попытках, — с 38 (7.5%) до 107 (21.1%). При этом немного снизилась доля задач, которые модель решила хотя бы один раз.

Почему это важно

Для компаний, которым важно надежно обновлять базы данных, дообученная модель примерно втрое чаще выполняет задачу правильно при каждой попытке.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.