Pinterest заменил многоэтапную систему группировки интересов пользователей на дообученную языковую модель Qwen3 с 4 млрд параметров. Компания сообщает, что в ходе первых тестов в США и Канаде кликабельность писем выросла на 1,1%, а push-уведомления стали открывать на 1,3% чаще по сравнению с прежней системой.
В Pinterest «сценарием» называют цель, связывающую интересы, намерения и обстоятельства человека на протяжении нескольких сеансов. Например, поиск кухонных шкафов, сохранение идей для столешницы, а затем просмотр плитки или освещения могут указывать на один проект по ремонту, а не на отдельные интересы. Модель передает выявленные сценарии существующей рекомендательной системе Pinterest, но не заменяет ее.
Как работает новая система?
Прежняя система извлекала ключевые слова из действий пользователей, объединяла их с помощью эмбеддингов и иерархической кластеризации, а затем использовала другие модели и правила, чтобы давать группам названия и определять их приоритет. По словам Pinterest, из-за этого связанные действия могли попадать в разные сценарии, названия получались расплывчатыми, а случайный клик принимался за устойчивый интерес.
Новая модель анализирует хронологическую запись максимум из 150 действий за период в 360 дней и краткий профиль пользователя, а затем формирует список сценариев с названиями и ранжированием. Поиски и сохранения имеют больший вес, чем случайные клики. В инструкциях модели особое внимание уделяется повторяющимся действиям, их давности и конкретности. Также ей предписано не объединять несвязанные интересы, отсеивать единичные действия и не предлагать сценарий, если данных недостаточно.
Для создания синтетических обучающих примеров на основе истории действий Pinterest использовал более крупные модели, а затем дообучил модели Qwen3 меньшего размера с открытыми весами. Протестировав модели от 0,6 до 8 млрд параметров, компания выбрала версию с 4 млрд параметров, сочтя ее оптимальным сочетанием качества вывода и скорости работы. Pinterest запускает ее на графических процессорах L40S с помощью NVIDIA Dynamo и vLLM, а для пользователей, чьи сценарии были сформированы в последние несколько дней, не запускает обработку повторно.
Что измеряла Pinterest?
Pinterest оценивает качество сценариев с помощью сравнений бок о бок, отдельной языковой модели, которая проверяет, соответствуют ли сценарии действиям пользователей и подтверждаются ли ими, а также онлайн-экспериментов. Компания сообщает о статистически значимом росте вовлеченности и удержания пользователей в первых A/B-тестах, а также о повышении кликабельности и открываемости уведомлений. В предоставленных данных размер прироста удержания не указан.
Подход напоминает использование Netflix длинных последовательностей действий подписчиков для улучшения рекомендательных систем. Pinterest формирует явные описания сценариев, а Netflix рассказывала о создании повторно используемых представлений предпочтений. Обе компании учитывают долгосрочное поведение пользователей в своих существующих системах персонализации.
Почему это важно
Для пользователей Pinterest это изменение может сделать письма и push-уведомления о проектах более точными, поскольку система учитывает действия, растянутые на несколько посещений. В первых тестах Pinterest зафиксировала рост кликабельности и открываемости. Однако результаты не показывают, станут ли рекомендации полезнее для каждого пользователя и насколько выросло удержание.