全连接层的理解

1.全连接层和卷积层的区别

卷积神经网络（CNN）由输入层、卷积层、激活函数、池化层、全连接层组成，即INPUT-CONV-RELU-POOL-FC。

卷积层：用它来进行特征提取。例如，输入图像是32*32*3，3是它的深度（即R、G、B），卷积层是一个5*5*3的filter(感受野)，这里注意：感受野的深度必须和输入图像的深度相同。通过一个filter与输入图像的卷积可以得到一个28*28*1的特征图。

全连接层：全连接层的每一个结点都与上一层的所有结点相连，用来把前边提取到的特征综合起来。由于其全相连的特性，一般全连接层的参数也是最多的。全连接层的权重矩阵是固定的，即每一次feature map的输入过来必须都得是一定的大小（即与权重矩阵正好可以相乘的大小），所以网络最开始的输入图像尺寸必须固定，才能保证传送到全连接层的feature map的大小跟全连接层的权重矩阵匹配。

全连接层的前向计算

下图中连线最密集的2个地方就是全连接层，这很明显的可以看出全连接层的参数的确很多。在前向计算过程，也就是一个线性的加权求和的过程，全连接层的每一个输出都可以看成前一层的每一个结点乘以一个权重系数W，最后加上一个偏置值b得到，即 。如下图中第一个全连接层，输入有50*4*4个神经元结点，输出有500个结点，则一共需要50*4*4*500=400000个权值参数W和500个偏置参数b。

下面用一个简单的网络具体介绍一下推导过程

其中，x1、x2、x3为全连接层的输入，a1、a2、a3为输出，根据我前边在笔记1中的推导，有

可以写成如下矩阵形式：

全连接层的反向传播

以我们的第一个全连接层为例，该层有50*4*4=800个输入结点和500个输出结点。

由于需要对W和b进行更新，还要向前传递梯度，所以我们需要计算如下三个偏导数。

1、对上一层的输出（即当前层的输入）求导

若我们已知转递到该层的梯度

，则我们可以通过链式法则求得loss对x的偏导数。 首先需要求得该层的输出ai对输入xj的偏导数：

再通过链式法则求得loss对x的偏导数：

上边求导的结果也印证了我前边那句话：在反向传播过程中，若第x层的a节点通过权值W对x+1层的b节点有贡献，则在反向传播过程中，梯度通过权值W从b节点传播回a节点。

若我们的一次训练16张图片，即batch_size=16，则我们可以把计算转化为如下矩阵形式。

2、对权重系数W求导

我们前向计算的公式如下图，

由图可知

，所以：

。

当batch_size=16时，写成矩阵形式：

3、对偏置系数b求导

由上面前向推导公式可知， 即loss对偏置系数的偏导数等于对上一层输出的偏导数。

当batch_size=16时，将不同batch对应的相同b的偏导相加即可，写成矩阵形式即为乘以一个全1的矩阵：

-----------------------------------------------------------------------------------------------------------------------------------

接下来再主要谈谈全连接层的意义

连接层实际就是卷积核大小为上层特征大小的卷积运算，卷积后的结果为一个节点，就对应全连接层的一个点。 假设最后一个卷积层的输出为7×7×512，连接此卷积层的全连接层为1×1×4096。 连接层实际就是卷积核大小为上层特征大小的卷积运算，卷积后的结果为一个节点，就对应全连接层的一个点。如果将这个全连接层转化为卷积层： 1.共有4096组滤波器 2.每组滤波器含有512个卷积核 3.每个卷积核的大小为7×7 4.则输出为1×1×4096 ------------------------------------------ 若后面再连接一个1×1×4096全连接层。则其对应的转换后的卷积层的参数为： 1.共有4096组滤波器 2.每组滤波器含有4096个卷积核 3.每个卷积核的大小为1×1 4.输出为1X1X4096 相当于就是将特征组合起来进行4096个分类分数的计算，得分最高的就是划到的正确的类别。而全连接层的坏处就在于其会破坏图像的空间结构， 因此人们便开始用卷积层来“代替”全连接层， 通常采用1×1的卷积核，这种不包含全连接的CNN成为全卷积神经网络（FCN）， FCN最初是用于图像分割任务， 之后开始在计算机视觉领域的各种问题上得到应用， 事实上，Faster R-CNN中用来生成候选窗口的CNN就是一个FCN。 FCN的特点就在于输入和输出都是二维的图像，并且输入和输出具有相对应的空间结构， 在这种情况下，我们可以将FCN的输出看作是一张热度图，用热度来指示待检测的目标的位置和覆盖的区域。 在目标所处的区域内显示较高的热度， 而在背景区域显示较低的热度， 这也可以看成是对图像上的每一个像素点都进行了分类， 这个点是否位于待检测的目标上。

输入的feature map是2X2，那么就需要把这个feature map 拉成4X1的列向量，如果你的feature map 的channels是3，也就是你的输入是3X2X2，也就是相当于有了12个像素点，你就需要把feature map 拉成12X1的列向量，这时候，再乘一个权重，这个权重要把12个像素点都包含进去，所以这个权重的矩阵形式应该是1X12,所以经过一个全连接层后的输出就是1X12X12X1=1X1，这时候需要看你的需要多少个1X1的神经元了，如果是3个的话，那么输出就是3X（1X12X12X1）=3X（1X1）.这个3在权重矩阵中代表3行，即每一行与输入相乘，得到一个输出。