KDD23 | 基于Transformer的实时用户行为推荐模型

https://arxiv.org/pdf/2306.00248.pdf

针对下一步动作预测对用户活动进行编码的顺序模型，已经成为构建网页规模个性化推荐系统的热门设计选择。传统的顺序推荐方法要么在实时用户行为上进行端到端学习，要么以离线批量生成的方式单独学习用户表示。本文（1）介绍了Pinterest的Homefeed排名架构，这是我们的个性化推荐产品，也是最大的参与面；（2）提出了TransAct，一个从用户实时活动中提取用户短期偏好的顺序模型；（3）描述了我们的混合排名方法，该方法结合了通过TransAct进行的端到端顺序建模和批量生成的用户嵌入。混合方法使我们能够将直接从实时用户活动中学习的响应性优势与批量用户表示的成本效益结合起来，后者是在较长时间内学习的。我们描述了消融研究的结果，我们在产品化过程中遇到的挑战，以及在线A/B实验的结果，这证实了我们的混合排名模型的有效性。我们进一步展示了TransAct在其他表面，如情境推荐和搜索中的有效性。