Pinterest用4B参数Qwen3模型推断用户长期兴趣

Pinterest已用经过微调的40亿参数Qwen3语言模型，取代此前用于归纳用户兴趣的多步骤系统。该公司称，在美国和加拿大进行的初步测试中，与旧系统相比，新模型使邮件点击率提高了1.1%，推送通知打开率提高了1.3%。

Pinterest将“journey”（用户历程）定义为一种跨越多次访问、串联起用户兴趣、意图和具体情境的目标。例如，搜索橱柜、收藏台面设计，之后又浏览瓷砖或照明产品，这些行为可能都指向同一个装修项目，而非彼此无关的兴趣。模型推断出的用户历程会用于Pinterest现有的推荐系统，并不会取代该系统。

新系统如何运作？

旧流程会从用户活动中提取关键词，通过嵌入和层次聚类将关键词分组，再用其他模型和规则为各组命名、排序。Pinterest称，这种方法可能把相关行为拆分到不同的用户历程中，生成含糊的标签，或把偶然点击当成长期意图。

新模型会读取360天内最多150条按时间排序的行为记录，以及一份精简的用户档案，并生成排序后的用户历程名称。搜索和收藏行为的权重高于偶然点击。模型指令强调要关注行为是否重复、发生时间是否接近，以及表现出的兴趣是否具体；同时要求模型不要合并无关兴趣、过滤一次性行为，并在证据不足时不生成用户历程。

Pinterest先用更大的模型根据用户行为记录生成合成训练样本，再对小型开源权重Qwen3模型进行微调。在测试了参数量从6亿到80亿的模型后，该公司选择了40亿参数版本，以兼顾推理质量和运行速度。Pinterest通过NVIDIA Dynamo和vLLM在L40S GPU上运行该模型，并避免对过去几天内已生成用户历程的用户重复执行推理。

Pinterest衡量了哪些指标？

Pinterest通过并排比较、另一个用于判断用户历程是否相关且有行为依据的语言模型，以及线上实验来评估用户历程的质量。该公司称，初步A/B测试显示，用户参与度和留存率均有统计显著的提升，点击率和打开率也有所提高。不过，Pinterest提供的材料没有说明留存率提升了多少。

这种做法与Netflix利用用户长序列行为数据改进推荐系统的方式有相似之处。Pinterest会生成对用户历程的明确描述，而Netflix曾介绍过如何构建可重复使用的偏好表示；两者都会将长期行为数据输入现有的个性化系统。