来自:NewBeeNLP
上图的矩阵可以看成是传统神经网络中的权重矩阵,但是有两点不同:
0
是不可训练的,这意味着它们在整个优化过程中保持为零;这一角度可以更好理解传统神经网络和 CNN 之间的联系,其中左图是传统神经网络,右图是 Dense 神经网络视角下的 CNN。灰色连接对应于不可训练的 0。
注意到我们以上是从 3x3 矩阵变成了 2x2,
但是通过 zero-padding 我们可以得到 3x3 结果,
具体实现为,
[1]
Fast.ai 课程: https://course.fast.ai/
[2]
conv-example: https://github.com/fastai/courses/blob/master/deeplearning1/excel/conv-example.xlsx
[3]
对应的视频(0:00-14:00): https://www.youtube.com/watch?v=V2h3IOBDvrA
[4]
Michael Nielsen 的神经网络与深度学习: http://neuralnetworksanddeeplearning.com/
[5]
Realistic views: http://setosa.io/ev/image-kernels/
[6]
Visualizing what ConvNets learn: http://cs231n.github.io/understanding-cnn/
- END -