简读分享 | 赵晏浠 编辑 | 赵晏浠
论文题目
Simple GNN Regularisation for 3D Molecular Property Prediction and Beyond
论文摘要
在本文中,作者表明,简单的噪声正则化可以是解决过度平滑的有效方法。作者首先论证了解决过度平滑的正则应该既惩罚节点的潜在相似性又鼓励有意义的节点表示。从这一观察中,作者推导出 "噪声节点",这是一种简单的技术,作者用噪声破坏输入图,并添加一个噪声校正的节点级损失。不同的节点级损失鼓励潜在节点的多样性,而去噪目标则鼓励图形流形学习。作者的正则器以简单明了的方式应用了经过充分研究的方法,这些方法甚至允许通用架构克服过度平滑,在QM9和Open Catalyst等量子化学任务上取得最先进的结果,并在Open Graph Benchmark(OGB)数据集上显著提高结果。作者的结果表明Noisy Nodes可以作为GNN工具包的一个补充构件。
论文链接
https://iclr.cc/virtual/2022/poster/5968