# Understanding Convolution in Deep Learning(四)

Frequency filtering and convolution

Images by Fisher & Koryllos (1998).

Insights from fluid mechanics

Interpreting the propagator

Softmax of an edge detector: To calculate the softmax normalization, we taking each value [latexbackground="ffffff"]{x}[/latex] of the kernel and apply [latexbackground="ffffff"]{e^x}[/latex]. After that we divide by the sum ofall [latex background="ffffff"]{e^x}[/latex]. Please note that thistechnique to calculate the softmax will be fine for most convolution kernels,but for more complex data the computation is a bit different to ensurenumerical stability (floating point computation is inherently unstable for verylarge and very small values and you have to carefully navigate around troublesin this case).

Wait, there is something fishy here

Insights from quantum mechanics

Insights from probability theory

Relation between cross-correlation and convolution: Here [latexbackground="ffffff"]{\star}[/latex] denotes cross correlation and[latex background="ffffff"]{f^*}[/latex] denotes the complexconjugate of [latex background="ffffff"]{f}[/latex].

Cross-correlation via convolution: The input and kernel are padded with zeros and thekernel is rotated by 180 degrees. The white spot marks the area with thestrongest pixel-wise correlation between image and kernel. Note that the outputimage is in the spatial domain, the inverse Fourier transform was alreadyapplied. Images taken from StevenSmith’s excellent free online book about digital signal processing.

0 条评论

• ### 神经网络结构（上）

深度神经网络和深度学习是很强大和流行的算法。他们的成功很大程度上在于神经网络架构的精心设计。所以我想重温过去几年深度学习的神经网络设计的历史。

• ### Understanding Convolution in Deep Learning（一）

卷积可能是目前深度学习中最重要的概念了。卷积和卷积网络是引发深度学习去完成几乎任何机器学习任务的最前沿地概念。但是什么使卷积这么强大？它是如何工作的？在这篇博客...

• ### Understanding Convolution in Deep Learning（五）

统计模型和机器学习模型有什么区别？ 统计模型通常集中在很容易解释的很少的变量。 可以建立统计模型来回答这些问题：药物A是否比药物B好？机器学习模型关于预测性能：...

• ### 深度学习: 网络超参数设定

卷积时在 图像每一维([batch, in_height, in_width, in_channels])的步长，这是一个一维的向量，长度4。

• ### 直观理解深度学习的卷积操作，超赞！

近几年随着功能强大的深度学习框架的出现，在深度学习模型中搭建卷积神经网络变得十分容易，甚至只需要一行代码就可以完成。

• ### 直观理解深度学习的卷积操作，超赞！

近几年随着功能强大的深度学习框架的出现，在深度学习模型中搭建卷积神经网络变得十分容易，甚至只需要一行代码就可以完成。

• ### 一文读懂卷积神经网络(CNN)

先明确一点就是，Deep Learning是全部深度学习算法的总称，CNN是深度学习算法在图像处理领域的一个应用。

• ### 干货 | 卷积神经网络入门这一篇就够了

【机器学习算法】：排名第一 【机器学习】：排名第一 【Python】：排名第三 【算法】：排名第四 先明确一点就是，Deep Learning是全部深度学习算法...

• ### 直观理解深度学习卷积部分

近几年随着功能强大的深度学习框架的出现，在深度学习模型中搭建卷积神经网络变得十分容易，甚至只需要一行代码就可以完成。

• ### 金字塔卷积PyConv来了！"即插即用"，提升你的网络性能

论文：https://arxiv.org/abs/2006.11538代码：https://github.com/iduta/pyconv