专栏首页null的专栏深度学习算法原理——经典CNN结构之LeNet-5

深度学习算法原理——经典CNN结构之LeNet-5

论文地址:http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf

LeNet-5 诞生于1994年,是最早的深层卷积神经网络之一,推动了深度学习的发展。从1988年开始,在多次成功的迭代后,这项由Yann LeCun完成的开拓性成果被命名为LeNet-5。最初被用于手写数字识别,当年美国大多数银行就是用它来识别支票上面的手写数字的,它是早期卷积神经网络中最有代表性的实验系统之一。

LeNet-5的网络结构入下图所示:

LeNet-5中主要由2个卷积层、2个下抽样层(池化层)、3个全连接层组成,其中:

  • INPUT为输入,32×3232\times 3232×32的图片;
  • C1为卷积,由666个卷积核的大小为5×55\times 55×5组成,stride为111,得到666个28×2828\times 2828×28的feature maps;
  • S2为下采样,以2×22\times 22×2为单位的下抽样,使用的平均池化(Average Pooling),得到666个maps;
  • C3为卷积,由161616个卷积核的大小为5×55\times 55×5,stride为111,得到161616个10×1010\times 1010×10的feature maps;
  • S4为下采样,以2×22\times 22×2为单位的下抽样,使用的平均池化(Average Pooling),得到161616个maps;
  • C5为卷积,由120120120个卷积核的大小为5×55\times 55×5,stride为111,得到120120120个1×11\times 11×1的feature maps;

虽然LeNet-5现在已经很少使用,但是其是奠定了现代卷积神经网络的基石之作。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 深度学习算法原理——TextCNN

    论文地址:Convolutional Neural Networks for Sentence Classification

    zhaozhiyong
  • 深度学习算法原理——栈式自编码神经网络

    注:最近打算将UFLDL教程重新看一遍,其实里面有很多关于神经网络以及深度学习的知识点很有用,但是只是学习深度学习的话有一些内容就有点多余,所以想整理一个笔记,...

    zhaozhiyong
  • 推荐算法——非负矩阵分解(NMF)

    在博文推荐算法——基于矩阵分解的推荐算法中,提到了将用户-商品矩阵进行分解,从而实现对未打分项进行打分。矩阵分解是指将一个矩阵分解成两个或者多个矩阵的乘积。对于...

    zhaozhiyong
  • VGG(2014),3x3卷积的胜利

    VGG(2014)网络出自paper《Very Deep Convolutional Networks for Large-Scale Image Recogn...

    李拜六不开鑫
  • 卷积神经网络工作原理直观的解释?

    CNN(卷积神经网络)形象地来说像一个黑匣子,只能看到输入和输出的数据,不太清楚其匣子内部到底怎么运转的:如何从初始状态一步步走向结果。 不同层数的卷积处理出来...

    用户1332428
  • React 学习笔记之属性 props

    React 的每一个组件都可以包含一些数据,这些数据一般情况下都是父组件传递进来的。这个过程就像我们给一个可变参数的函数传递参数一样,只不过组件内部接受到这些参...

    我与梦想有个约会
  • pytorch卷积神经网络-卷积的定义(下)

    左侧若采用全连接方式进行学习,则参数量很大。而右侧只提取局部特征(对应点的周边的一些属性)进行学习,可以极大地减少参数量。

    用户6719124
  • 学界 | 中科院自动化所提出不规则卷积神经网络:可动态提升效率

    选自arXiv 作者:马佳彬等 机器之心编译 参与:李泽南 近日,中国科学院自动化研究所马佳彬、王威、王亮等人发表的研究提出了一种新形式的卷积神经网络——不规则...

    机器之心
  • 开发 | 小白学CNN以及Keras的速成

    AI 科技评论按:本文作者Sherlock,原文载于其知乎专栏深度炼丹,AI 科技评论已获得其授权发布。 一、为何要用Keras 如今在深度学习大火的时候,第三...

    AI科技评论
  • 入门学习 | 什么是图卷积网络?行为识别领域新星

    【导读】图卷积网络(Graph Convolutional Network,GCN)是近年来逐渐流行的一种神经网络结构。不同于只能用于网格结构(grid-bas...

    AI科技大本营

扫码关注云+社区

领取腾讯云代金券