VGG网络与LeNet5网络的对比分析

问题

VGG卷积网络相对于LeNet5卷积网络来说卷积核尺寸：LeNet卷积核大小均为5*5，而VGG是只用了3*3的卷积核，步长为1。下采样：LeNet中是2*2的均值池化，再乘以一个可学习的参数， VGG为2*2，步长为2。padding: LeNet 模型中没有使用补边，但是输入的图片（32*32）是比数字所占像素（28*28）更大的。VGG都使用了padding（1或2）。激活函数：LeNet使用Sigmoid，VGG也是使用ReLU。

方法

分别使用VGG和LeNet5训练网络后对mnist数据集进行分类，观察不同点。

LeNet5

VGG

结语

两个网络的都是采用了五个周期，但是准确率的差别有一点大，对于LeNet5卷积神经网络来说，训练五个周期正确率只有20%，但是对与vgg卷积神经网络来说。正确率达到了98%，

对于两个之间的差别，我认为首先vgg卷积网络的卷积核更小，模型的非线性表达能力更好，其次，LeNet卷积神经网络接受的输入层大小为32*32*1，但是对于mnist数据集来说，每一张图片的大小是28*28*1，但是vgg训练五个周期的时间远远大于LeNet5，还存在内存不够用的情况。