1.深度学习概念简介

简介

1. 什么是神经网络？

1.1 单个神经元网络

如上图所示，我们想通过房子的面积来预测房子的价格。用单个神经网络来解决这个问题如下所示：

输入x为房子面积，输出y为房子价格，中间的为神经元（单个神经元的神经网络）。这个神经元实现的功能就是为房子面积和房子价格建立映射关系。这里用到的神经元的函数为ReLU。

1.2 多个神经元网络

如上图所示，房子价格预测由原来的单一变量变为多个变量。与之对应的是，映射关系从单个神经元的网络变为多个神经元的网络。通过输入x，经过多个神经元的网络，计算出y，即房子的预测价格。

2. 监督学习与神经网络

2.1 监督学习

监督学习，在已知数据集正确输出的情况下，学习数据集的输入和输出之间的映射关系。下面是一些监督学习的例子：

监督学习主要解决两个方面的问题：回归问题和分类问题。回归问题，利用输入用来预测一个连续的输出值，例如上图的房价预测问题。分类问题，将输入匹配到某个特定的类型，例如图像识别。

2.2 神经网络

Convolution Neural Network（CNN） 经常应用于图像领域。

Recurrent Nerual Network（RNN）经常应用于机器翻译

hybrid neural network 经常应用于自动驾驶

3. 为什么深度学习会兴起？

深度学习的兴起依赖于以下几个因素：

大规模的数据

计算性能的提升

神经网络算法的发展

上图曲线由上至下分别为，大型神经网路，中等神经网络，小型神经网络，传统机器学习算法（例如SVM，Logistic Regression）。从中可以看出，随着数据量的增加，大型神经网络的性能呈现出明显的优势。

上图是一个完整的深度学习过程，历经了，产生想法，代码编写，实验验证三个阶段。而这个过程是一个不断迭代的过程，计算性能的提升节省了这个过程中的时间，因此为深度学习的发展注入的强劲的动力。