过去十年来,深度学习方法(例如卷积神经网络和递归神经网络)在许多领域取得了前所未有的成就,例如计算机视觉和语音识别。
下面是Sergey Ivanov@twitter总结的图网络,图机器学习相关领域 最近一段时间相关的视频,博客,代码等相关资料,小编@深度学习与图网络做了补充,希望对大家的研究有所帮助。
项目链接:https://github.com/rusty1s/pytorch_geometric
近年来,人们对深度学习方法在图数据上的扩展越来越感兴趣。在深度学习的成功推动下,研究人员借鉴了卷积网络、循环网络和深度自动编码器的思想,定义和设计了用于处理图数据的神经网络结构。图神经网络的火热使得各大公司纷纷推出其针对图形结构数据的神经网络框架。下面分别介绍四大图神经网络框架。
深度学习还没学完,怎么图深度学习又来了?别怕,这里有份系统教程,可以将0基础的你直接送到图深度学习。还会定期更新哦。
2019年即将过去。国外最热论坛Reddit的机器学习板块,也为大家提供了一个优秀的学习讨论场所。
目前主流的深度学习框架都选择使用计算图来抽象神经网络计算表达,通过通用的数据结构(张量)来理解、表达和执行神经网络模型,通过计算图可以把 AI 系统化的问题形象地表示出来。
为了挑选出2019年最好的开源项目,最近某位Medium网友整理了2019年Reddit机器学习板块热门高赞项目资源汇总,一起来看看都有哪些项目上榜:
大家好!在这篇文章里我将为大家简要介绍我们在ICRA2021上发表的论文"CodeVIO: Visual-Inertial Odometry with Learned Optimizable Dense Depth" ,很荣幸这个工作获得了同行评审专家的认可,获得了机器视觉最佳论文提名。
可微分渲染是一个新颖的领域,可帮助计算3D对象的梯度并允许它们在图像中传播,而无需3D数据收集和注释。计算机图形学中的渲染生成3D场景,该场景由几何形状,材质,场景光和相机属性定义。渲染是一个复杂的过程。它的区别不能唯一地定义;因此不可能直接集成到神经网络中。可微分渲染(DR)构成了一系列技术,这些技术通过获取渲染过程的有用梯度来解决端到端优化的这种集成问题。
「AI技术生态论」 人物访谈栏目是CSDN发起的百万人学AI倡议下的重要组成部分。通过对AI生态专家、创业者、行业KOL的访谈,反映其对于行业的思考、未来趋势的判断、技术的实践,以及成长的经历。
由于图数据结构无处不在,图神经网络 (GNN) 越来越受欢迎。图使我们能够对科学领域中的许多不同问题进行建模,例如(但不限于)生物学、社会学、生态学、视觉、教育、经济学等。此外,图表示使我们能够处理大规模的非结构化数据。
PyG(PyTorch Geometric)是构建在 PyTorch 之上的一个库,可以方便地编写和训练图神经网络(GNNs),用于与结构化数据相关的广泛应用。它包括针对图和其他不规则结构的各种深度学习的方法,也称为几何深度学习,来自各种发表的论文。此外,它还包括易于使用的小批量加载器,用于操作许多小的和单个的巨型图,多 GPU 支持,数据管道支持,通过 Quiver 的分布式图学习,大量的通用基准数据集(也可以基于简单的接口创建自己的),GraphGym 实验管理器,以及有用的转换,这些都用于学习任意图
随着社交媒体的飞速发展,在线社交网络成为了人们赖以生存的第二世界。大规模社交网络用户的形成使得传统的网络表示方法遇到了瓶颈,由于随着深度学习技术的蓬勃发展以及受自然语言处理领域词嵌入技术的启发,自动学习网络中节点的向量表示成为近年来的研究热点。
2022腾讯犀牛鸟开源人才培养计划 开源项目介绍 滑至文末报名参与开源人才培养计划 提交计图(Jittor)项目Proposal 计图(Jittor) 项目介绍 计图(Jittor):一个完全基于动态编译(Just-in-time),内部使用创新的元算子和统一计算图的深度学习框架。元算子可以复合出神经网络计算所需算子,和Numpy一样易于使用,并且超越Numpy能够实现更复杂更高效的操作。统一计算图则是融合了静态计算图和动态计算图的诸多优点,在易于使用的同时,提供高性能的优化。基于元算子开发的深度学习模型,
来源:深度学习与图网络本文约1000字,建议阅读5分钟几何GNN有多强大?关键设计选择如何影响表现力,如何建立最强大的GNN? Geometric GNN是科学和工程领域空间嵌入图的新兴GNN类别,例如SchNet(用于分子),Tensor Field Networks(用于材料),GemNet(用于电催化剂),MACE(用于分子动力学)和E(n)-等变图卷积网络(用于高分子)。 几何GNN有多强大?关键设计选择如何影响表现力,如何建立最强大的GNN? 请查看Chaitanya K. Joshi,Cris
Segment-Geospatial包的灵感来自Aliaksandr Hancharenka[2]创作的Segment-anything-eo[3]存储库。为了方便对地理空间数据使用分段任意模型 (SAM),我开发了segment-anything-py[4] and segment-geospatial[5]Python 包,这些包现在可以在 PyPI 和 conda-forge 上使用。我的主要目标是简化利用 SAM 进行地理空间数据分析的过程,使用户能够以最少的编码工作来实现这一目标。我从segment-anything-eo[6]存储库中改编了segment-geospatial 的源代码,其原始版本归功于Aliaksandr Hancharenka。
近年来,视觉里程计广泛应用于机器人和自动驾驶等领域,传统方法求解视觉里程计需基于特征提取、特征 匹配和相机校准等复杂过程,同时各个模块之间要耦合在一起才能达到较好的效果,且算法的复杂度较高。环境 噪声的干扰以及传感器的精度会影响传统算法的特征提取精度,进而影响视觉里程计的估算精度。鉴于此,提出 一种基于深度学习并融合注意力机制的视觉里程计算法,该算法可以舍弃传统算法复杂的操作过程。实验结果表 明,所提算法可以实时地估计相机里程计,并具有较高的精度和稳定性以及较低的网络复杂度。 关键词 机器视觉;深度学习;视觉里程计;注意力机制;多任务学习。
精简模型的设计是模型压缩中的第一步,而且是能够保证模型精度不下降的最有效的一种策略,最近我们分享了对特征图的冗余计算进行约减的GhostNet框架。
机器之心专栏 腾讯AI Lab, 清华AIR&计算机系 一文了解等变图神经网络的结构和相关任务。 近年来,越来越多的人工智能方法在解决传统自然科学等问题上大放异彩, 在一些重要的学科问题(例如蛋白质结构预测)上取得了令人瞩目的进展。在物理领域的研究中,非常多的物理问题都会涉及建模物体的的一些几何特征,例如空间位置,速度,加速度等。这种特征往往可以使用几何图这一形式来表示。不同于一般的图数据,几何图一个非常重要的特征是额外包含旋转,平移,翻转对称性。这些对称性往往反应了某些物理问题的本质。因此,最近以来,大量
机器之心报道 机器之心编辑部 3 月 23 日,在机器之心 AI 科技年会上,上海交通大学自然科学研究院和数学科学学院副教授、上海人工智能实验室成员王宇光老师发表了主题演讲《几何深度学习和图神经网络的
本贴总结了2019年Reddit机器学习板块中分享的17个令人印象深刻的项目、研究、demo以及更多相关内容。其中既包括AI大厂的高光项目(GPT-2、StyleGAN等),也有小团队甚至个人做出的有趣的东西。希望小伙伴们能在这些精选资源中获得自己的收获。
深度学习在最近几年取得了显著的进展,特别是在计算机视觉、自然语言处理和其他人工智能应用领域。尽管如此,当前的深度学习模型,尤其是卷积神经网络(CNNs)还存在一些局限性。例如,它们往往对输入的微小变化高度敏感,而且对于学习复杂的空间层次结构效率不高。正是为了解决这些问题,胶囊网络(Capsule Networks,CapsNets)应运而生。
卷积神经网络(Convolutional Neural Networks, CNN)的复杂性和灵活性使其成为深度学习领域的核心研究主题之一。在本引言部分中,我们将深入探讨CNN的历史背景、基本原理、重要性以及其在科学和工业领域的影响。
今年初,Facebook 推出了 PyTorch 1.0,该框架集成了谷歌云、AWS 和 Azure 机器学习。学习本教程之前,你需要很熟悉 Scikit-learn,Pandas,NumPy 和 SciPy。这些程序包是使用本教程的重要先决条件。
下面是马克斯·普朗克智能系统研究所研究人员的客座文章。在本文中,研究人员描述了一种从图像或稀疏点云进行密集4D重建的新方法。
为了筛选2019年一些令人惊叹的机器学习项目。根据reddit上机器学习类目中的内容,作者盘点了过去一年中最受欢迎的17个机器学习项目、研究论文、demo。希望你能在这个列表中获得一些鼓舞人心的、有教育意义的启发。
为了帮助筛选 2019 年一些令人难以置信的项目、研究、演示等,下面我们将介绍 17 个在机器学习领域最受欢迎、被讨论最多的项目,这些项目由 r/MachineLearning subreddit 策划。我希望你能在这个列表中找到一些鼓舞人心的,有教育意义的项目。
选自inFERENCe 作者:Ferenc Huszár 机器之心编译 参与:程耀彤、思源 深度模型的泛化性能一直是研究的主题。最近,Twitter 的机器学习研究员 Ferenc Huszár 发表了一篇文章专门讨论泛化与 Fisher-Rao 范数之间的关系,它先分析了提出 Fisher-Rao 度量方法的论文,包括带偏置项和不带偏置项的分段线性网络的可视化,然后再讨论了其它如 Fisher-Rao 范数是否会成为有效的正则化器等问题。 在上周发布的关于泛化之谜的文章之后,有研究者向我介绍了最近将 F
近年来,深度学习在很多机器学习领域都有着非常出色的表现,在图像识别、语音识别、自然语言处理、机器人、网络广告投放、医学自动诊断和金融等领域有着广泛应用。面对繁多的应用场景,深度学习框架有助于建模者节省大量而繁琐的外围工作,更聚焦业务场景和模型设计本身。
对于深度学习初学者来说,配置深度学习的环境可能是一大难题,因此本文主要讲解CUDA; cuDNN; Pytorch 三者是什么,以及他们之间的依赖关系。
如果你在读这篇文章,那么你可能已经开始了自己的深度学习之旅。如果你对这一领域还不是很熟悉,那么简单来说,深度学习使用了「人工神经网络」,这是一种类似大脑的特殊架构,这个领域的发展目标是开发出能解决真实世界问题的类人计算机。为了帮助开发这些架构,谷歌、Facebook 和 Uber 等科技巨头已经为 Python 深度学习环境发布了多款框架,这让人们可以更轻松地学习、构建和训练不同类型的神经网络。本文将详细介绍和比较两种流行的框架: TensorFlow 与 PyTorch。
图神经网络算法将深度神经网络的运算(如卷积、梯度计算)与迭代图传播结合在一起:每个顶点的特征都是由其邻居顶点的特征结合一组深度神经网络来计算。
本文为雷锋字幕组编译的技术博客,原标题 The 5 Deep Learning Frameworks Every Serious Machine Learner Should Be Familiar With,作者为James Le。
PyTorch由于使用了强大的GPU加速的Tensor计算(类似numpy)和基于磁带的自动系统的深度神经网络。这使得今年一月份被开源的PyTorch成为了深度学习领域新流行框架,许多新的论文在发表过
LeNet虽然不是CNN的起点,但却是后来CNN兴起的标志模型。LeNet-5是1998年YannLeCun设计用于手写数字识别的模型。
由百度的paddle一个基于 PaddlePaddle 的高效易用的图学习框架
第1篇是对联邦图神经网络的调研,将目前的工作根据三层分类法进行了划分,即根据数据的原始存在形式、联邦学习的常规设置进行了分类介绍;
时隔半年不到,PyTorch 已经从之前的 1.0 升级到 1.1 版本了。刚刚,Facebook 在年度开发者大会 F8 上宣布正式发布 PyTorch 1.1 版本,这是对 PyTorch 1.0 的一次大的功能升级。
机器之心报道 机器之心编辑部 今年的 GDL100 包含常规课程、辅导课和专题研讨课,深入讲解了几何深度学习的基本概念和重要问题。 近年来,数据科学和机器学习取得了巨大进展。借助深度学习方法,许多高维学习任务(例如计算机视觉、蛋白质折叠)在适当的计算规模下也能够完成。随着研究问题的复杂深入,人们希望找到一套通用的原则系统性地研究深度学习。 几何深度学习,是从对称性和不变性的角度对广义机器学习问题进行几何统一的尝试,其原理不仅是卷积神经网络的突破性性能和图神经网络近期成功的基础,也为构建新型的、面向特定问题
卷积神经网络(Convolutional Neural Network,CNN)是一种被广泛应用于图像识别、语音识别和自然语言处理等领域的深度学习模型。与RNN、Transformer模型组成AI的三大基石。
来源:机器之心本文约4200字,建议阅读8分钟剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。 图神经网络在应用到现实世界时会面临很多挑战,比如内存限制、硬件限制、可靠性限制等。在这篇文章中,剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。 用于高效和可扩展的图形表示学习的工具箱。 本文旨在概述关于高效图神经网络和可扩展图表示学
选自Github 作者:Chaitanya K. Joshi 机器之心编译 机器之心编辑部 图神经网络在应用到现实世界时会面临很多挑战,比如内存限制、硬件限制、可靠性限制等。在这篇文章中,剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。 用于高效和可扩展的图形表示学习的工具箱。 本文旨在概述关于高效图神经网络和可扩展图表示学习的关键思想,并将介绍数据准备、GNN 架构和学习范式方面的关键进展,这些最新进展让图神经网
计算机视觉是人工智能的一个领域,它使计算机能够表示视觉世界。由于神经网络可以从数据中学习如何做出准确的预测,深度学习已经彻底改变了这个领域。最近的进展有望使汽车更加安全,通过自动驾驶车辆增加自由时间,以及为残疾人和我们迅速老龄化的全球人口提供机器人援助。
在进行深度学习和神经网络开发时,Python的PyTorch库被广泛应用。PyTorch提供了丰富的功能和工具,使得开发人员能够快速构建和训练神经网络模型。然而,有时在使用PyTorch过程中可能会遇到一些问题。 其中一个常见的问题是在导入PyTorch相关模块时遇到"No module named 'torch_scatter'"错误。该错误通常出现在尝试使用torch_scatter模块时,而该模块不在PyTorch的默认安装中。解决这个问题的方法是安装和导入torch_scatter模块。 这里为您提供了一个解决方案,帮助您在PyTorch中解决"No module named 'torch_scatter'"错误。
前不久,帝国理工学院教授、Twitter 首席科学家 Michael Bronstein 发表了一篇长达160页的论文,试图从对称性和不变性的视角从几何上统一CNNs、GNNs、LSTMs、Transformers等典型架构,构建深度学习的“爱尔兰根纲领”。
领取专属 10元无门槛券
手把手带您无忧上云