首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

剑桥 |几何图神经网络表达能力如何?附Slides与视频

他将通过解释GWL如何揭示关键设计选择影响几何GNN表达能力的方式来结束演讲:(1)不变层的表达能力有限,因为它们无法区分单跳相同的几何图形;(2)等变层通过传播局部邻域以外的几何信息来区分更大的一类图...;(3)高阶张量和标量化使最大强大的几何图神经网络成为可能;(4) GWL的基于判别的视角等价于泛逼近。...几何GNN表达力轴:该框架有助于形式化和理解几何GNN的设计空间,包括:(1)如何使用体序消息传递建立表达力强的局部邻域指纹;(2)高阶张量如何帮助确定邻域方向;(3)深度在几何信息传播中的作用。...例如,分子被表示为一组节点,其中包含每个原子及其3D空间坐标以及其他几何量(如速度或加速度)的信息。值得注意的是,几何属性随着系统的欧氏变换而变化,即它们对旋转、反射和平移的对称群是等变的。...同时,关键理论问题仍未得到解答:(1)如何刻画几何图神经网络的表达能力?(2) G等变和G不变GNN之间的权衡是什么?

45920
您找到你想要的搜索结果了吗?
是的
没有找到

张量变分学的基本概念及其定义

02 历史的天空 看经典变分概念的整体性 历史地看,变分似乎是个整体性概念。 整体和局部及其相互关系,是哲学家关注的问题,也是自然科学家感兴趣的问题。...力学的角度看,上述观念似乎经得起时间考验。场函数的微分,涉及空间域上“点的邻域” 内场函数的增量。“点的邻域” 当然是局部性概念。弹性力学中的运动微分方程,建立在微单元体上。...于是,很自然地,就把曲率张量的扰动量视为“曲率张量的变分”。 如何快速计算曲率张量的变分?...04 张量场函数的虚物质导数 —— 局部变分概念的逻辑基础 如何塑造张量场函数的局部变分概念?作者的作法是“先为局部变分概念寻找一个逻辑基础”。...虚物质导数概念出发,就可以定义局部变分概念。也就是说,虚物质导数,可以被选定为局部变分概念的逻辑基础。 一旦涉及到物质导数,就得关注物质占据的空间及其运动的描述方式。

59820

详解Python使用模拟退火算法求解列表“最大值

之前发过一个使用爬山算法的文章,请参考:Python使用爬山算法寻找序列“最大值” 模拟退火算法可以看作是爬山算法的一种改进,如果前方有更优解就前进,如果没有更优解就以一定概率前进。...def simAnnealingMax(lst, howFar): ''' lst:待确定最大值的列表 howFar:爬山时能看到的“最远方”,越大越准确 ''' #由于切片是左闭右开区间...,所以howFat必须大于1 assert howFar>1, 'parameter "howFar" must >1' #列表第一个元素开始爬 #如果已经到达最后一个元素,或者已找到局部最大值...loc = lst[start+1:start+howFar] #如果已处理完所有数据,结束 if not loc: return m #下一个邻域的局部最优解及其位置...+1 else: #如果下一个邻域内没有更优解,以一定的概率前进或结束 delta = (m-mm)/(m+mm) #随机走动次数越多,对概率要求越低 if delta

1.6K60

张量运算之ArgMax和Reduction | PyTorch系列(九)

调用的结果是一个标量值的张量。 根据sum()调用的结果检查原始张量中元素的数量,我们可以看到,实际上,调用sum()返回张量包含的元素比原始张量少。...Argmax返回张量最大值的索引位置。 当我们在一个张量上调用argmax() 方法时,这个张量就会被约减成一个新的张量,这个张量包含一个索引值,这个索引值表示这个张量里面的最大值。...如果我们不指定argmax() 方法的一个轴,它会平坦张量返回最大值的索引位置,在这个例子中确实是11。 现在我们来看看如何处理特定的坐标轴。...注意对max() 方法的调用如何返回两个张量。第一个张量包含最大值,第二个张量包含最大值的索引位置。这就是argmax 给我们的。 对于第一个轴,最大值是4、3、3和5。...在实际应用中,我们经常在网络的输出预测张量上使用argmax()函数来确定哪一类具有最高的预测值。 ---- 访问张量中的元素 张量的最后一种常见运算就是张量中获取数据的能力。

2.2K40

神经网络批处理 | PyTorch系列(十九)

在上一节中,我们了解了前向传播以及如何将单个图像训练集中传递到我们的网络。...在上一节中,当我们训练集中提取单个图像时,我们不得不unsqueeze() 张量以添加另一个维度,该维度将有效地将单例图像转换为一个大小为1的batch。...数据加载器返回一批图像,这些图像被打包到单个张量中,该张量具有反映以下轴的形状。...argmax() 函数的作用是查看这十组中的每组,找到最大值,然后输出其索引。 对于每组十个数字: 查找最大值。...每个数字是出现最大值的索引。我们有十个数字,因为有十个图像。一旦有了这个具有最大值的索引张量,就可以将其与标签张量进行比较。

2.7K30

使用卷积深度神经网络和PyTorch库对花卉图像进行分类

大小为3x3的卷积核在图像张量周围移动,作为(0,0)位置开始的窗口,输出张量(0,0)处的样本结果如下所示 输出(0,0)=图像张量(0,0)x内核(0,0)+图像张量(0,1)x内核(0,1)+图像张量...预测类索引的“线性函数”的输出值将是最大值。...最后一层的输出'forward'函数返回。 模型训练 需要有一个优化器和损失函数用于模型训练。将使用' Adam optimizer '和' Cross-Entropy Loss '。...'线性函数'输出张量最大值。...最大值推断出预测的类别标签。 'torch.sum'函数总结了张量中的'1',它是'预测'和'实际测试输出'张量之间'AND'运算的输出。因此,这个总和给出了正确预测图像的数量。

4.5K31

PyTorch官方培训教程上线:基本概念到实操,小白也能上手

课程介绍PyTorch基本概念开始,小白看了完全无压力 一步步深入,手把手带你建模、训练、部署 短短八节课程,你就能真正上手PyTorch!...具体课程如下: 创建PyTorch Tensors 数学或逻辑上的应用 张量复制 如何转移到GPU 操纵张量形状 PyTorch-Numpy Bridge 教程中举出了许多张量运算的典型例子: 比如创建一个...-1到1之间的随机张量,可以取它的绝对值,使得到的所有值都是正数;可以接受它的反正弦值,因为值在-1到1之间且返回一个的角度。...此外,PyTorch中的张量还能进行线性代数运算,如行列式或奇异值分解; 数据统计、汇总,计算均值、标准差、最大值、最小值等等也都不在话下。...通过跟踪训练将数据可视化,然后用TensorBoard来查看模型本身,从而进一步可视化数据及其内部关系。

57410

PyTorch官方培训教程上线:基本概念到实操,小白也能上手

课程介绍PyTorch基本概念开始,小白看了完全无压力 一步步深入,手把手带你建模、训练、部署 短短八节课程,你就能真正上手PyTorch!...具体课程如下: 创建PyTorch Tensors 数学或逻辑上的应用 张量复制 如何转移到GPU 操纵张量形状 PyTorch-Numpy Bridge 教程中举出了许多张量运算的典型例子: 比如创建一个...-1到1之间的随机张量,可以取它的绝对值,使得到的所有值都是正数;可以接受它的反正弦值,因为值在-1到1之间且返回一个的角度。...此外,PyTorch中的张量还能进行线性代数运算,如行列式或奇艺值分解; 数据统计、汇总,计算均值、标准差、最大值、最小值等等也都不在话下。...通过跟踪训练将数据可视化,然后用TensorBoard来查看模型本身,从而进一步可视化数据及其内部关系。

48440

nms算法的原理及其基于tensorflow的实现

2. 3邻域情况下NMS的实现 3邻域情况下的NMS即判断一维数组I[W]的元素I[i](2<=i<=W-1)是否大于其左邻元素I[i-1]和右邻元素I[i+1],算法流程如下图所示:? a....返回的是被选中的那些留下来的边框在参数boxes里面的下标位置。那么你可以使用tf.gather的操作或者利用keras.backend的gather函数来参数boxes来获取选中的边框。...;scores:1-D的float类型的大小为[num_boxes]代表上面boxes的每一行,对应的每一个box的一个score;max_output_size:一个整数张量,代表我最多可以利用NMS...选中多少个边框;iou_threshold:一个浮点数,IOU阙值展示的是否与选中的那个边框具有较大的重叠度;score_threshold:一个浮点数,来决定上面时候删除这个边框name:可选返回的是...selected_indices:表示的是一个1-D的整数张量,大小为[M],代表的是选出来的留下来的边框下标,M小于等于max_outpuy_size。

4K20

01-PyTorch基础知识:安装PyTorch环境和张量Tensor简介

张量的另一个重要概念是它们的 shape 属性。形状告诉您其中的元素是如何排列的。 让我们看看 vector 的形状。...矩阵和张量表示为大写字母,例如 X 或 W 。 我们来总结一下。 6.1 随机张量 机器学习模型通常大型随机数张量开始,并在处理数据时调整这些随机数以更好地表示数据。...让我们看看如何创建随机数张量。 我们可以使用 torch.rand() 并传入 size 参数来实现。...、平均值、总和等(聚合) 首先我们创建一个张量,然后求它的最大值、最小值、平均值和总和。...Tensor.view(shape) 返回不同 shape 中的原始张量视图,但与原始张量共享相同的数据。

33210

01-PyTorch基础知识:安装PyTorch环境和张量Tensor简介

张量的另一个重要概念是它们的 shape 属性。形状告诉您其中的元素是如何排列的。 让我们看看 vector 的形状。...矩阵和张量表示为大写字母,例如 X 或 W 。 我们来总结一下。 6.1 随机张量 机器学习模型通常大型随机数张量开始,并在处理数据时调整这些随机数以更好地表示数据。...让我们看看如何创建随机数张量。 我们可以使用 torch.rand() 并传入 size 参数来实现。...、平均值、总和等(聚合) 首先我们创建一个张量,然后求它的最大值、最小值、平均值和总和。...Tensor.view(shape) 返回不同 shape 中的原始张量视图,但与原始张量共享相同的数据。

30310

论文 | 一切皆可连接:图神经网络 | 大牛GAT作者Petar Velickovic最新综述

我们恢复 GNN 必须满足的以下规则: 在这里,为了简单起见,我们假设函数 f,F 不会改变邻接矩阵,因此我们假设它们仅返回图或节点级输出。 此外,图的边允许这些函数中的局部性约束。...就像 CNN 在图像每个像素的小邻域上运行一样,GNN 也可以在节点的邻域上运行。...定义该邻域 N_u 的一种标准方法如下: 因此,我们可以定义所有邻域特征的多重集 X_N_u : 我们的局部函数 可以考虑邻域,即: 通过简单的线性代数操作,可以证明如果 在 X_N_u 中是排列不变的...正如所声称的;其中大多数可以分为三种空间风格之一: 其中 和 是神经网络 (x) = ReLU(Wx + b), 是任何排列不变聚合器,例如 、平均或最大值。...这种分析是在张量场网络中针对点云进行的,然后扩展到针对一般图的 SE(3)-Transformers。

57310

用于多关系数据的图神经网络R-GCNs

本文描述如何扩展图神经网络(GNNs)的最简单公式,以编码知识图谱(KGs)等多关系数据的结构。...考虑我们正在运行的示例,“苏格拉底”到“柏拉图”的连接可以用“影响”来标记。在相反的方向上,可以建立“柏拉图”到“苏格拉底”的另一种连接,可以用“影响者”来标记。...邻域扩散以更新节点的表示形式,汇总其邻居的隐藏特征。针对每个节点并行计算此操作。...聚合步骤,是通过将(i)(有向)邻接张量乘以(ii)由投影步骤得出的张量而实现的。 (i)描述有向和r型边的3D张量(r,n,n)。该张量由r批邻接矩阵(n,n)组成。...在以后的文章中,我将向您展示如何利用这种编码能力在KG中执行特定任务,包括节点分类和链接预测。

1.1K20

OpenCV系列之图像阈值 | 十五

第三个参数是分配给超过阈值的像素值的最大值。OpenCV提供了不同类型的阈值,这由函数的第四个参数给出。通过使用cv.THRESH_BINARY类型。...该方法返回两个输出。第一个是使用的阈值,第二个输出是阈值后的图像。...cv.ADAPTIVE_THRESH_GAUSSIAN_C:阈值是邻域值的高斯加权总和减去常数C。 该BLOCKSIZE确定附近区域的大小,C是邻域像素的平均或加权总和中减去的一个常数。...类似地,Otsu的方法图像直方图中确定最佳全局阈值。 为此,使用了cv.threshold作为附加标志传递。阈值可以任意选择。然后,算法找到最佳阈值,该阈值作为第一输出返回。 查看以下示例。...了解噪声滤波如何改善结果。

51510

Canny边缘检测算法原理及其VC实现详解(一)

2)增强:增强边缘的基础是确定图像各点邻域强度的变化值。增强算法可以将图像灰度点邻域强度值有显著变化的点凸显出来。在具体编程实现时,可通过计算梯度幅值来确定。...2)图像高斯滤波 对图像进行高斯滤波,听起来很玄乎,其实就是根据待滤波的像素点及其邻域点的灰度值按照一定的参数规则进行加权平均。这样可以有效滤去理想图像中叠加的高频噪声。...图1中蓝色的线条方向为C点的梯度方向,这样就可以确定其局部的最大值肯定分布在这条线上,也即出了C点外,梯度方向的交点dTmp1和dTmp2这两个点的值也可能会是局部最大值。...作者认为,在理解的过程中需要注意以下两点: 1)中非最大抑制是回答这样一个问题:“当前的梯度值在梯度方向上是一个局部最大值吗?”...根据下文的具体测试图像可以看出,这样一个检测结果还是包含了很多由噪声及其他原因造成的假边缘。因此还需要进一步的处理。

1.2K30
领券