【论文阅读】Empowering next POI recommendation with multi-relational modeling
【论文阅读】Empowering next POI recommendation with multi-relational modeling
【论文阅读】Empowering next POI recommendation with multi-relational modeling
Metadata
authors:: Zheng Huang, Jing Ma, Yushun Dong, Natasha Zhang Foutz, Jundong Li container:: Proceedings of the 45th international ACM SIGIR conference on research and development in information retrieval year:: 2021 DOI:: 10.1145/3477495.3531801 rating:: ⭐⭐ share:: false comment:: 强调用户之间的社交关系建模，使用耦合的 RNN 相互更新用户和 POI 表示
前言
2022 年 SIGIR， Empowering next POI recommendation with multi-relational modeling
问题描述
OverView
论文认为在 POI 推荐任务中仍然存在以下的挑战：
- 用户的偏好是复杂的，通常不同的社会关系有很强的联系。如下图所示，用户 Jack 从家庭成员那里寻求关于购物中心的建议，而从同事那里寻求关于培训机构的建议。这些异构的社会关系，加上用户访问 POI 所形成的用户-POI 关系，给有效利用嵌入的丰富信息带来了巨大的挑战。
- 获取用户和 POI 之间关键的、跨时的、相互的影响仍然具有挑战性。在用户-POI 关系中，用户的偏好可能会随时间发生变化。仍以上图为例，假如 Anna 在她最近访问的商场留下了一个正面的评价，或者推荐给其他人，那么，这个 POI 的声誉和受欢迎程度可能会得到提高。反过来，这个 POI 的声誉将影响安娜未来的访问。
为了解决上面这些问题，论文提出了 Multi-Relational Modeling (MEMO)，充分利用用户之间的社交关系以及用户与 POI 之间的关系，使用 Graph Convolutional Networks (GCN) 以及 self-attention 进行特征提取。
为了捕获用户和 POI 之间随时间变化的相互影响，论文设计了一个基于耦合的递归神经网络（RNNs）的用户-POI 相互影响建模组件，该网络可以相互更新对方的表示。
MEMO
模型架构如下图所示：
Relation Modeling
感觉论文说得不明不白的，连什么公式都没有。
Aggregation over Different Relation Types
接着，论文利用 self-attention 将每个节点的所有特定关系表示汇总到一个共同的隐藏层空间，以有效捕获每个用户在不同类型关系中的偏好。
具体来说，其实也就是利用 self-attention 计算两个关系之间的相似性：
并将所有关系聚合到关系p：
其中
为可学习权重矩阵。
之后使用多层感知机聚合不同关系类型的表示：
User-POI Mutual Influence Modeling
在用户-POI 关系中，用户的潜在状态和 POI 的潜在状态可能会随着时间的推移而相互影响。因此，需要更新用户和 POI 的表示，以捕获这样的相互关系。具体来说，论文通过用户 RNN（RNNU_UU）和位置 RNN（RNNL_LL）组成的耦合 RNN，分别学习用户和 POIs 的表示。
RNNU_UU整合了 POI 表示来更新用户表示，反之亦然。具体来说：
Spatio-Temporal Representation
除了用户的关系和发展轨迹外，论文同时纳入了时空信息（时间间隔及空间间隔），以加强下一个 POI 推荐。
具体来说，论文使用
分别表示短时间和长时间的时间间隔：
其中θt为预设时间阈值，∗*∗表示对应元素乘法。
类似地，使用空间阈值θd得到空间间隔表示
其中空间距离使用 Haversine 距离计算。
最后将模型通过全连接得到最后的概率，损失函数为交叉熵损失函数。
实验
Datasets
Results
Ablation Studies
- MEMO-NG：去除 relation
- MEMO-NA：去除 self-attention
- MEMO-NR：去除 RNN 中相互更新部分
- MEMO-NTS：去除时空关系表示
总结
论文看的很快，主要是感觉没什么东西，一些细节上的东西都不说清楚，另外数据集也是一个问题，那些常用的公开数据集本身就没有那么丰富的社交关系以供学习，总体感觉一般。