首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

深度学习: translation invariant (平移不变性)

以下摘自池化-ufldl: 如果人们选择图像中的连续范围作为池化区域,并且只是池化相同(重复)的隐藏单元产生的特征,那么,这些池化单元就具有平移不变性 (translation invariant...这就意味着即使图像经历了一个小的平移之后,依然会产生相同的 (池化的) 特征。...在很多任务中 (例如物体检测、声音识别),我们都更希望得到具有平移不变性的特征,因为即使图像经过了平移,样例(图像)的标记仍然保持不变。...例如,如果你处理一个MNIST数据集的数字,把它向左侧或右侧平移,那么不论最终的位置在哪里,你都会期望你的分类器仍然能够精确地将其分类为相同的数字。

1.9K30

ICML 2019 反锯齿下采样改进网络平移不变性

在计算机视觉特征提取的研究历史中,平移不变性是算法设计者不断追求的。 具有平移不变性意即目标在图像中平移一定的像素,提取的特征不会差别很大。 请看以下这幅动图: ?...在深度卷积网络的世界里,一只鸟的图片平移了几个像素,它是一只鸟的概率就不同了,甚至就不再是一只鸟了,这就说不过去了。 这说明CNN网络不具有良好的平移不变性。...作者考虑了CNN网络的各个结构,认为卷积层本身是具有平移不变性的,而池化层破坏了平移不变性。...作者认为可以借鉴信号处理中反锯齿算法的设计,即在信号下采样之前进行低通滤波(也就是图像模糊),缓解池化操作带来的对平移不变性的破坏。 具体做法请看下图: ?

1.1K11
您找到你想要的搜索结果了吗?
是的
没有找到

快把卷积神经网络中的平移不变性带回来!

其实卷积(或者说滤波吧,两者差个卷积核的Flip,这里姑且混为一谈)操作本身是一个平移两个信号并且积分的操作,从定义本身就是可以做到平移不变的。真正让卷积做不到平移不变的,是MaxPool。...但是事实上是,我只是给图片稍稍平移了一下,我的模型就尼玛疯了。 ? ? 邪恶的MaxPool 其实AvgPool都没有这个问题,为啥偏偏MaxPool有?...可以看到,仅仅是平移了一个像素,MaxPool的结果就有可能完全不同。 既然MaxPool这么不好,我们为什么还要用呢?因为我们需要。举个简单的例子: ?...而且最神奇的是,按照道理说,这样的处理可以增强平移不变性,但是会损失精度。但是测试的结果居然是:精度也提升了。 ?...Hack 作者测试了MaxPool和MaxBlurPool在不同的层的情况,可以看到,随着层数变深,平移引起的变化越发严重,而使用了MaxBlurPool以后,虽然不能完全消除印象,但是能减轻很多了。

1.1K30

AI面试题之深入浅出卷积网络的平移不变性

2 卷积网络有没有平移不变性 有的文章说有,有的说没有,那么到底有没有呢? 我先说出我个人的观点,现在的卷积网络是不具有平移不变性的。不过两个论点我都会讲明白。...5 平移不变性的定义 说了这么多平移不变性,那么平移不变性的具体的严格的定义到底是什么呢? 定义几个数学符号。原始的输入数据为 ,经过下采样层变成 ,然后再经过上采样得到 ....(D是Down下采样,U是Up上采样) 【平移不变性】 如果平移之后的输入图像的下采样的上采样与原始输入图像的下采样的上采样相同,那么就是平移不变性。...6 如何实现平移不变性 现在使用的全局平均池化层,就是可以实现平移不变性。依然是用上面的例子: ?...可以发现,其实不管平移多少,反正得到的数值都是一样的,全局平均池化消除了位置的影响,所以实现了平移不变性

4.1K11

让CNN有了平移不变性,同时提升ImageNet成绩:Adobe开源新方法,登上ICML

不管是最大池化,跨步卷积,还是平均池化,都对平移太敏感: 比如,0、0、1、1、0、0、1、1……这样的周期,最大池化是这样: ? 但如果平移一格,最大池化完全变了一个样子: ?...在保留平移不变性的情况下,还能提升ImageNet上的分类准确率。VGG、ResNet、DenseNet……各种架构都适用。...想知道怎样帮助CNN保留平移不变形,就要了解平移不变性是怎样打破的。 理查观察了VGG的第一个卷积层,发现它对平移毫无波澜,并不是在这里打破的。...但再观察第一个池化层,对平移有了反应:平移偶数个像素,表征还不改变,平移奇数个像素,表征就完全变了。 向网络深处走,经过的池化层越多,问题就越严重。 ?...平移不变性与准确率兼得 理查用ImageNet分类任务测试了一下进化后的VGG,原以为会损失一些准确率,结果: ? △右为抗锯齿 ? △空心为抗锯齿 在解锁平移不变性的同时,准确率还提升了。

1.2K30

区块链不变性简介

不变性是相对的. 例如, 如果我向一大群朋友发送一封电子邮件, 那么从我的角度来看, 这些数据是不变的....所以不变性是相对的, 并且涉及改变的难度. 私人数据库 对于私人数据库, 终端用户(end-user, 或称最终用户)可能拥有只读权限. 她无法更改该数据库中某一行的内容....关于不变性, 有两个关键理念有助于让篡改易于检测: 散列(hashes, 或称哈希)和块(blocks). 哈希 哈希函数是一种数学函数, 把 数据变成数据的指纹的过程称为 哈希....一个好的散列函数的两个相关属性是: 很难从哈希值反演出原始数据 如果输入数据稍有变化, 哈希值将以不可预知的方式变化 哈希是区块链安全性和不变性的基础. 你可以在这里使用他们.

2.7K60

JavaScript 中的 不变性(Immutability)

不变性(Immutability)是函数式编程的核心原理,也有很多面向对象的程序提供了这一特性。...什么是不变性? 可变性的文本定义是可能会被改变的。 在编程中,我们使用这个词来表示允许状态随时间变化的对象。 一个不可改变的值是完全相反的 - 创建之后,它永远不会改变。...JavaScript中不变性的实践 JavaScript还没有不可变的列表和地图,所以我们现在需要一个第三方库。有两个很好的可用。...不变性在这种情况下如何解决?...总结 我希望这篇文章给你提供了一些关于不变性如何帮助你改进你的代码的知识,所提供的例子可以说明这个工作的实际效果。不变性这个概念正在持续升温。

97220

图像不变性特征——hu矩

图像的hu矩是一种具有平移、旋转和尺度不变性的图像特征。...中心矩:构造平移不变性 由零阶原点矩和一阶原点矩,我们可以求得目标区域的质心坐标: 由求得的质心坐标,我们可以构造出中心矩: 由于我们选择了以目标区域的质心为中心构建中心矩,那么矩的计算时永远是目标区域中的点相对于目标区域的质心...,而与目标区域的位置无关,及具备了平移不变性。...(缩小2倍),显然其零阶中心矩也会相应变小,使得矩具备尺度不变性。...hu矩:构造旋转不变性 利用二阶和三阶规格中心矩可以导出下面7个不变矩组(Φ1 Φ7),它们在图像平移、旋转和比例变化时保持不变。

2.2K70
领券