【GiantPandaCV导语】在CNN的训练中,权重初始化是一个比较关键的点。好的权重初始化可以让网络的训练过程更加稳定和高效。...1.为什么需要好的权重初始化
网络训练的过程中, 容易出现梯度消失(梯度特别的接近0)和梯度爆炸(梯度特别的大)的情况,导致大部分反向传播得到的梯度不起作用或者起反作用....这里的
就是输入的样本, 我们会将其归一化处理, 所以
, 现在让每层输出方差等于1, 即
举例层卷积, 输入大小为
, 分别表示通道数量、高、宽, 卷积核大小为
, 分别表示输出通道数量...、输入通道数量、卷积核高、卷积核宽....假设随机变量
都是独立同分布的,
的分布在0附近对称的, 则
对每层
,均值都是0, 即
.