首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >春节充电系列:李宏毅2017机器学习课程学习笔记10之卷积神经网络

春节充电系列:李宏毅2017机器学习课程学习笔记10之卷积神经网络

作者头像
WZEARW
发布2018-04-13 12:07:04
7180
发布2018-04-13 12:07:04
举报
文章被收录于专栏:专知专知

【导读】我们在上一节的内容中已经为大家介绍了台大李宏毅老师的机器学习课程的训练DNN的技巧,这一节将主要针对讨论卷积神经网络。本文内容涉及机器学习中CNN的若干主要问题:图像的特性,卷积,池化,flatten以及CNN在keras中的实现。话不多说,让我们一起学习这些内容吧。

春节充电系列:李宏毅2017机器学习课程学习笔记01之简介

春节充电系列:李宏毅2017机器学习课程学习笔记02之Regression

春节充电系列:李宏毅2017机器学习课程学习笔记03之梯度下降

春节充电系列:李宏毅2017机器学习课程学习笔记04分类(Classification)

春节充电系列:李宏毅2017机器学习课程学习笔记05之Logistic 回归

春节充电系列:李宏毅2017机器学习课程学习笔记06之深度学习入门

春节充电系列:李宏毅2017机器学习课程学习笔记07之反向传播(Back Propagation)

春节充电系列:李宏毅2017机器学习课程学习笔记08之“Hello World” of Deep Learning

春节充电系列:李宏毅2017机器学习课程学习笔记09之Tip for training DNN

课件网址:

http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML17_2.html

视频网址:

https://www.bilibili.com/video/av15889450/index_1.html

李宏毅机器学习笔记10 卷积神经网络

之前我们介绍了DNN,DNN的网络架构如下图所示,很明显,DNN的参数太多,我们需要想办法简化这个网络。

1. 图像的特性



图像有很多优良特性

DNN的隐藏层的作用是提取特征,但有时候图像的特征可能很小,不需要我们搜索整个图像的像素

一个相同特征可能出现在图像不同的地方

对于图像来说,下采样图像并不会改变图像的特征

根据图像的上述特性,我们设计了卷积神经网络

CNN的不同层对应利用图像的不同特性

2. 卷积



对于卷积操作来说,每次卷积需要滤波器

滤波器的实质是一个矩阵,每次矩阵和图像的某个区域的像素做内积得到某个值。

遍历整个图像就是一个卷积操作。

每个滤波器做相同的操作,多个filter得到的最终集合称为feature map,有几个filter最终就会得到几个image。

对于彩色图像来说的,filter变成3*3*3的立方体。

3. 池化



对于max pooling, 4个一组,取平均或者最大值。

一个filter就是一个channel。

Convolution,max pooling这样的结构能在CNN网络里重复很多次

4. Flatten



最后一步就是拉直(flatten)

5. CNN在keras中的实现



CNN在keras中也很容易表示

注意第二部分的卷积层的参数数目是3*3*25,所以每个滤波器有225参数

最后一步拉直后放入全连接网络层

如果想要了解CNN更多的知识,看以下的推荐网站

后台回复“LHY2017” 就可以获取 2017年李宏毅中文机器学习课程下载链接~

-END-

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-02-24,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 专知 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 5. CNN在keras中的实现
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档