谷歌大脑深度学习从入门到精通视频课程[1.4]：前馈神经网络——多层神经网络

AI100 已经引入 Hugo Larochelle 教授的深度学习课程，会每天在公众号中推送一到两节课，并且对视频中的 PPT 进行讲解。课后，我们会设计一系列的问题来巩固课程中的知识。本节课是 Hugo Larochelle 教授深度学习的第四节课。

课程主要内容

1. 回顾上一节课的内容。（P2）
2. 讨论只有一个隐藏层的神经网络。（P3）
3. 讨论多分类问题。（P4）
4. 讨论具有多个隐藏层的神经网络。（P5）

PPT 解释如下：

P1. 首页

P2. 回顾上一节课的内容，主要讲解了单个神经元不能完成XOR任务。

P3. 首次讨论具有隐藏层的神经网络。首先讲解了输入数据 x 到隐藏层的映射关系（pre-activation），然后讲了隐藏层的激活函数，最后讨论输出层。

P4. 如果我们处理的问题不是一个二分类，而是一个多分类，那么可以使用softmax 函数来进行判断，哪个类别的概率最高，那么神经网络就是指向哪个类别。

P5. 神经网络不单单可以有一个隐藏层，还可以有多个隐藏层。本页就是讨论这个问题。请记住，以后我们遇到的神经网络，大多数都是不止一个隐藏层。所以这一页需要好好消化。

课程作业

我们要解决一个数字十分类问题，即分类数字0,1,2,3,4,5,6,7,8,9十个数字。假设，我们设计的网络是一个四层网络（即一个输入层，两个隐藏层，一个输出层），输入数据为 x ，连接权重依次是 W1，W2，W3，偏差项依次是 b1，b2，b3。两个隐藏层的激活函数都选择 Relu 函数，并有g(·) 来表示。那么最后输出的分类结果 h(x) =___________。

讲师简介

Hugo Larochelle 教授师从 Yoshua Bengio 教授，并且在 Geoffrey Hinton 教授那里做了两年的博士后工作。目前 Hugo Larochelle 教授是 Google Brain 的研究科学家。他在 Youtube 上面的神经网络课程视频讲的深入浅出，非常适合从零开始学习。

本文为 AI100 原创，转载需得到本公众号同意。