来自 CMU 和 LinkedIn 的研究人员开源了 PASS（性能自适应采样策略）在深度学习中的实施

了解数据库中维护的实体集之间的关系至关重要。在这种情况下，实体是对象或数据组件。

实体关系多次使用图表以各种方式描述。例如，专业图表显示人们如何协作，而社交图表显示人们如何相互联系。

为了更好地利用图，我们教授称为 GNN（图神经网络）的深度学习模型来解释图。例如，GNN 会查看成员的连接和连接的连接。然后，他们使用这些邻域知识来完成搜索和推荐等 AI 任务。

然而，GNN 在如何利用成员的邻居方面存在一些限制。

首先，基于 GNN 的策略无法扩展到现实世界的社交网络。在许多情况下，一个成员有许多联系，利用所有这些联系是不切实际的。例如，名人可能拥有数亿人脉。

并非每个联系都与手头的工作相关，这是第二个障碍。例如，在工作推荐任务中，在完全不同的行业工作并且可能是个人朋友的成员关系将与任务无关。

一些现有的方法通过选择预定数量的邻居来工作，这限制了 GNN 输入的规模。虽然这解决了第一个问题，但这些采样器的缺点是没有考虑哪些邻居对 GNN 更重要。邻居的随机样本可能提供的建议不如相关邻居的样本准确。

为了解决上述问题，LinkedIn 和 CMU 的一个团队设计了一种名为“Performance-Adaptive Sampling Strategy”或“PASS”的新型 GNN 方法，并开源 了 PASS 的实现，该实现使用 AI 算法选择合适的邻居。PASS 开发的 AI 模型学习如何选择能够提高 GNN 模型预测准确度的邻居。通过检查给定邻域的属性，AI 模型确定是否选择该邻域。这种方法的优点是可以很好地独立于使用 GNN 模型的工作。

他们还开发了一种节省时间的技术来训练这种 AI 邻居选择模型。该团队在七个公共基准图和两个 LinkedIn 图上测试了他们的方法。结果表明，PASS 比最先进的 GNN 算法高出 1.3%-10.4%。

该团队还证明，即使输入图有噪声边缘，PASS 也可以获得可靠的准确性。为了证明这一点，他们在基准图中添加了噪声边缘。完成此操作后，PASS 的性能优于基线算法 2-3 倍。

这是第一个选择邻居以最大化 GNN 预测性能的策略。据该团队介绍，与其他使用更多邻居的 GNN 模型相比，PASS 可以通过使用更少的邻居来实现更高的预测精度。

PASS 引入了一种使用 AI 挑选邻居的新方法。该团队计划在未来将 PASS 集成到多个 GNN 应用程序中。他们开源了 PASS 实现，以鼓励研究人员开发更高效、更准确的 GNN 模型。

论文：

https://dl.acm.org/doi/pdf/10.1145/3447548.3467284

Github：

https://github.com/linkedin/PASS-GNN

参考：

https://engineering.linkedin.com/blog/2022/open-sourcing-PASS