腾讯 AI Lab 和清华大学的这项研究表明，图神经网络无法做深由两个原因造成：过拟合 (Overfitting) 和过平滑（Oversmoothing）。为了解决这两个问题，文章提出了一种简洁但非常有效的方法：随机删边技术，DropEdge，极大提升了超深图卷积网络的训练效率和节点分类效果。值得注意的是，文章投稿到 openreview 的时候就引来了众多研究同行的关注。文章正式被接收后，图灵奖获得者 Yoshua Bengio 的团队成员 Petar Veličković（注意力图网络 GAT 的发明者）在 openreview 平台上也给与了关注与好评。
论文作者：Guohao Li, Matthias Müller, Ali Thabet, Bernard Ghanem
https://proceedings.icml.cc/static/paper_files/icml/2020/1185-Paper.pdf
由于博主已经本硕博连读，九月份即将开始研究生生涯，遂开启论文阅读这一系列博文，主要介绍一些文章的主要思想和创新点，可能会详细介绍一下模型，如果喜欢的话多多关注，另外其他系列也会不定时更新，记得来看~
今天给大家介绍的是安徽大学的Bo Jiang 在CVPR2019上发表的文章“Semi-supervised Learning with Graph Learning-Convolutional Networks”。这篇论文中，作者提出了一个新的用于图数据表示和半监督学习的图学习卷积网络（Graph Learning-Convolutional Network，GLCN）。GLCN的目标是通过将图学习和图卷积结合在一个统一的网络结构中，学习一个可以应用图卷积网络的最优图结构。GLCN的主要优点是能将给定的标签和估计的标签合并在一起，因此可以提供有用的“弱”监督信息来改进（或学习）图的结构，并且便于在未知标签估计中使用图卷积运算。在七个基准测试中的实验结果表明，GLCN的性能明显优于现有的基于固定结构的图卷积网络。
图的独特功能可以捕获数据之间的结构关系，从而比孤立地分析数据可以获得更多的洞察力。图是最通用的数据结构之一。它们自然出现在许多应用领域，从社会分析、生物信息学到计算机视觉。
垃圾信息过滤一直是我们关注的问题，虽然表面上它只是一个最简单的二分类问题，但要做好还是非常困难的。尤其是闲鱼这种开放性评论机制，评论的维度及角度非常多种多样，再来筛选垃圾信息就非常困难了。
图结构数据在各个领域都很常见，例如{分子、社会、引用、道路}网络等，这些只是可以用图表示的大量数据中的一小部分。随着机器学习的进步，我们见证了在可用数据上应用智能算法的潜力。图神经网络是机器学习的一个分支，它以最有效的方式建立图数据的神经网络。
在中篇中，我们了解了图机器学习（GML：Graph Machine Learning）。下面，终于到了这个前置教程的重头戏，图神经网络（Graph Neural Networks）。 我们通过结合论文A Comprehensive Survey on Graph Neural Networks来学习现在图神经网络的发展现状。
选自arXiv 作者：Sijie Yan、Yuanjun Xiong、Dahua Lin 机器之心编译 参与：陈韵竹 近日，中国香港中文大学提出一种时空图卷积网络，并利用它们进行人类行为识别。这种算法基于人类关节位置的时间序列表示而对动态骨骼建模，并将图卷积扩展为时空图卷积网络而捕捉这种时空的变化关系。 近年来，人类行为识别已经成为一个活跃的研究领域，它在视频理解中起着重要的作用。一般而言，人类行为识别有着多种模态（Simonyan and Zisserman 2014; Tran e
本篇文章是对论文“Wu Z , Pan S , Chen F , et al. A Comprehensive Survey on Graph Neural Networks[J]. 2019.“”的翻译与笔记
【导读】图卷积网络（Graph Convolutional Network，GCN）是近年来逐渐流行的一种神经网络结构。不同于只能用于网格结构（grid-based）数据的传统网络模型 LSTM 和 CNN，图卷积网络能够处理具有广义拓扑图结构的数据，并深入发掘其特征和规律，例如 PageRank 引用网络、社交网络、通信网络、蛋白质分子结构等一系列具有空间拓扑图结构的不规则数据。相比于一般的拓扑图而言，人体骨骼拓扑图具有更加良好的稳定性和不变性，因此从2018年开始，就有许多学者尝试将图卷积网络应用到基于人体骨骼的行为识别领域来，也取得了不错的成果。下面就让我们来深入了解一下什么是图卷积网络，以及它在行为识别领域的最新工作进展吧！
我们现在结合了自循环和规范化技巧。此外，我们将重新引入我们先前丢弃的权重和激活函数，以简化讨论。
物体的互相遮挡在日常生活中普遍存在，严重的遮挡易带来易混淆的遮挡边界及非连续自然的物体形状，从而导致当前已有的检测及分割等的算法性能大幅下降。本文通过将图像建模为两个重叠图层，为网络引入物体间的遮挡与被遮挡关系，从而提出了一个轻量级的能有效处理遮挡的实例分割算法。
AI 科技评论按：第 32 届 AAAI 大会（AAAI 2018）日前在美国新奥尔良进行，于当地时间 2 月 2 日至 7 日为人工智能研究者们带来一场精彩的学术盛宴。AAAI 2018 今年共收到论文投稿 3808 篇，接收论文 938 篇，接收率约为 24.6 %。
在深度学习领域，图神经网络早已成为热门话题。去年年底，有人统计了 2019 年到 2020 年各大顶会提交论文关键词的数据。结果显示，「graph neural network”」的增长速度位列榜首，成为上升最快的话题。
导读：在线社交媒体平台的发展，带来了细粒度检索、视频语义摘要等媒体智能服务的巨大需求。现有的视频理解技术缺乏深入的语义线索，结合视频中人物的社交关系才能更完整、准确地理解剧情，从而提升用户体验，支撑智能应用。这里主要介绍我们将动态分析和图机器学习相结合，围绕视频中的人物社交关系网络所开展的两个最新的工作。主要内容包括：
最近，由于自动驾驶，机器人等的发展，3d视觉逐渐引起了研究人员和工程师的关注。今天，两位主讲嘉宾从自己的角度为大家精选了近期处理3d 点云数据的几个代表性方法，和大家一起学习分享最新的研究成果。
BASGCN(Backtrackless Aligned-Spatial Graph Convolutional Networks）由国内知名大学中央财经大学信息学院白璐副教授带领团队共同研发，已被人工智能领域的国际顶级期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》(TPAMI，IEEE模式分析和机器智能汇）刊录用，并将于日后正式刊出。
基于图的机器学习是一项困难的任务，因为图的结构非常复杂，而且信息量也很大。本文是关于如何利用图卷积网络(GCNs)对图进行深度学习的系列文章中的第一篇。GCNs是一种功能强大的神经网络，旨在直接处理图并利用图的结构信息。该系列文章包括:
在一项针对 2019 年到 2020 年各大顶会论文关键词的统计中，「图神经网络」的增长速度位列榜首，成为上升最快的话题。
上面左图是2D卷积神经网络，其输入是4行4列的矩阵，通过卷积核逐步移动实现对整个输入的卷积操作；而右图输入是图网络，其结构和连接是不规则的，无法像卷积神经网络那样实现卷积操作，由此提出图卷积网络。
通过将邻接矩阵A与D[1]的逆矩阵相乘，可以通过节点度对特征表示进行规范化[1]。因此，我们的简化传播规则如下所示：
论文链接：https://arxiv.org/pdf/2001.00335.pdf
本期介绍2019年6月发表在Briefings in Bioinformatics的综述，该综述由康奈尔大学等机构的研究人员撰写，系统总结了GCN及其在药物发现方面的最新进展，重点是与药物相关的应用；在图形卷积原理部分提供图卷积的理论支持和GCN的详细架构及其在药物发现中的应用并讨论了当前方法之外的挑战和可能性。
机器之心专栏 机器之心编辑部 华为诺亚实验室的研究员发现图神经网络（GNN）也能做视觉骨干网络。将图像表示为图结构，通过简洁高效的适配，提出一种新型视觉网络架构 ViG，表现优于传统的卷积网络和 Transformer。在 ImageNet 图像识别任务，ViG 在相似计算量情况下 Top-1 正确率达 82.1%，高于 ResNet 和 Swin Transformer。 论文链接：https://arxiv.org/abs/2206.00272 PyTorch 代码：https://github.com
图神经网络中的图是指数据结构中的图的样子，图由顶点(Vertex)和边(Edge)构成G=(V,E)，顶点连接的边的数量叫做顶点的度(Degree)。
今天为大家介绍美国罗彻斯特理工大学Kishan KC, Rui Li等人于2021年2月发表在TCBB上的一篇文章：“Predicting Biomedical Interactions with Higher-Order Graph Convolutional Networks”。作者提出了一种端到端的深度图表示学习框架，名为高阶图卷积网络(HOGCN)，用于预测生物医学实体之间的相互作用。该模型可以学习混合不同距离邻居的特征表示，以进行交互预测。作者与目前最先进的几个模型在多个数据集上进行了实验对比，结果表明作者的方法能够达到更好的预测效果。
《Spatio-Temporal Graph Convolutional Networks: A Deep Learning Framework for Traffic Forecasting》。
论文名称：ACEnet: Anatomical Context-Encoding Network for Neuroanatomy Segmentation
📷 近年来，基于图卷积网络(GCNs)的协同过滤(CF)方法引起了广泛的研究兴趣，并取得了最先进的性能。然而，现有的基于GCN的CF模型都是浅层的，无法对高阶协同信号进行建模。此外，大多数基于GCN的CF模型利用相同的归一化规则对邻居信息进行聚合，导致邻居具有与流行相关的重要性(对称归一化)或同等重要性(左归一化)。由于节点之间的内在差异，不同的归一化规则适合于它们聚合邻居信息。在本文中，我们提出了一种新的混合归一化深度图卷积网络(DGCN-HN)来缓解上述局限性。首先，设计了一个由残差连接和整体连接组成的
GitHub 链接：https://github.com/thunlp/GNNPapers
随着计算机学科与人工智能的发展和应用，视频分析技术迅速兴起并得到了广泛关注。视频分析中的一个核心就是人体行为识别，行为识别的准确性和快速性将直接影响视频分析系统后续工作的结果。因此，如何提高视频中人体行为识别的准确性和快速性，已成为视频分析系统研究中的重点问题。
今天我们来聊一聊在大规模图神经网络上必用的GNN加速算法。GNN在图结构的任务上取得了很好的结果，但由于需要将图加载到内存中，且每层的卷积操作都会遍历全图，对于大规模的图，需要的内存和时间的开销都是不可接受的。
题目：AM-GCN: Adaptive Multi-channel Graph Convolutional Networks
GCN 是一类非常强大的用于图数据的神经网络架构。事实上，它非常强大，即使是随机初始化的两层 GCN 也可以生成图网络中节点的有用特征表征。下图展示了这种两层 GCN 生成的每个节点的二维表征。请注意，即使没有经过任何训练，这些二维表征也能够保存图中节点的相对邻近性。
今天给大家介绍莫纳什大学Shirui Pan等人在 IEEE Transactions on Cybernetics上发表的文章“Learning Graph Embedding With Adversarial Training Methods ”。图嵌入的目的是将图转换成向量，以便于后续的图分析任务，如链接预测和图聚类。但是大多数的图嵌入方法忽略了潜码的嵌入分布，这可能导致在许多情况下较差的图表示。本文提出了一个新的对抗正则化图嵌入框架，通过使用图卷积网络作为编码器，将拓扑信息和节点内容嵌入到向量表示中，从向量表示中进一步构建图解码器来重构输入图。对抗训练原则被应用于强制潜码匹配先验高斯分布或均匀分布。实验结果表明可以有效地学习图的嵌入。
通过深度学习技术将图中的节点（或边）映射为向量空间中的点，进而可以对向量空间中的点进行聚类、分类等处理
【导读】Graph Neural Network（GNN）由于具有分析图结构数据的能力而受到了广泛的关注。本文对Graph Neural Network进行了简要介绍。它涵盖了一些图论，以便于理解图和分析图时遇到的问题。然后介绍了不同形式的Graph神经网络及其原理。它还涵盖了GNN可以做什么以及GNN的一些应用。
日常通勤中的规律往往相对容易挖掘，但交通状况还会受很多其他因素影响，之前的研究主要利用通行时间这类交通状态作为特征，少量研究引入事件，不能很好地预测实际交通流量。
选自arXiv 作者：Ruoyu Li等 机器之心编译 参与：路雪 近日，AAAI 2018 发布接收论文列表，腾讯 AI Lab 共入选 11 篇。在论文《Adaptive Graph Convolutional Neural Networks》中，腾讯联合德克萨斯大学阿灵顿分校提出自适应图卷积神经网络 AGCN，可接受任意图结构和规模的图作为输入。 论文：自适应图卷积神经网络（Adaptive Graph Convolutional Neural Networks） 论文链接：https://arxiv
选自arXiv 作者：Ruoyu Li等 机器之心编译 参与：路雪 近日，AAAI 2018 发布接收论文列表，腾讯 AI Lab 共入选 11 篇。在论文《Adaptive Graph Convol
今天给大家介绍华中农业大学章文教授团队在Briefings in Bioinformatics上发表的文章“Predictingdrug–disease associationsthrough layer attention graph convolutional network”。确定药物与疾病的关联是药物开发过程中不可或缺的一部分，而发展高效、高精度的计算方法对预测药物与疾病的相关性具有重要意义。本文提出了一种名为LAGCN的新方法，该方法使用引入了注意力机制的图卷积网络用以预测药物-疾病关联。
代码：https://github.com/WeijingShi/Point-GNN.git
近期，由于图结构数据在现实生活中存在的广泛性与普遍性（例如，在推荐系统中可以用图来表示用户与商品之间的交互、在化学中可以用图来建模分子等等），引起了研究者对将深度学习应用到，推动了图领域的相关研究蓬勃发展。深度学习发展成功的一个主要因素在于模型的深层次架构。然而，图神经网络模型随模型深度增加性能却会较快下降。一种主流研究认为，GNN模型做不深的原因在于过平滑 - 即图卷积网络有赋予相邻节点接近的表示的特点。因此，当图卷积网络的层数无限加深时，所有节点的表征都倾向收敛于同一个点。
【导读】时空预测在天气预报、运输规划等领域有着重要的应用价值。交通预测作为一种典型的时空预测问题，具有较高的挑战性。以往的研究中主要利用通行时间这类交通状态特征作为模型输入，很难预测整体的交通状况，本文提出的混合时空图卷积网络，利用导航数据大大提升了时空预测的效果（本文作者高德机器学习团队，论文已被收录到KDD2020）。
“ 本文的内容包括图卷积的基础知识以及相关辅助理解的知识点，相信同学们看完后一定能平滑上手理解GCN！”
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
