读书笔记：第一章绪论

深度学习是机器学习的 一个分支，是指一类问题以及解决这类问题的方法。

深度学习问题，是指从有限样例中通过算法总结出一般性的规律，并可以应用到新的未知数据上。

深度学习的模型，一般比较复杂，指样本的原始输入到输出目标之间的数据流经过多个线性或非线性的组件。

因为每个组件对最后的得到输出结果的影响都不同，所以我们并不清楚其中每个组件的贡献是多少？

人工神经网络，也简称神经网络，是一种可以比较好地解决贡献度分配问题的模型。

因为神经网络模型一般比较复杂，从输入到输出的信息传递路径一般比较长，所以复杂神经网络的学习可以看成是一种深度的机器学习，即深度学习。

人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。

机器学习（Machine Learning，ML）是指从有限的观测数据中学习（或“猜 测”）出具有一般性的规律，并利用这些规律对未知数据进行预测的方法．

传统的机器学习主要关注如何学习一个预测模型。一般需要首先将数据表示为一组特征（Feature），特征的表示形式可以是连续的数值、离散的符号或其他形式。然后将这些特征输入到预测模型，并输出预测结果。

这类机器学习可以看作浅层学习（Shallow Learning）。浅层学习的一个重要特点是不涉及特征学习，其特征主要靠人工经验或特征转换方法来抽取．

在实际任务中使用机器学习模型一般会包含以下几个步骤：

1. 数据预处理：经过数据的预处理，如去除噪声等．比如在文本分类中， 去除停用词等；
2. 特征提取：从原始数据中提取一些有效的特征．比如在图像分类中，提 取边缘、尺度不变特征变换特征等；
3. 特征转换：对特征进行一定的加工，比如降维和升维。很多特征转换方法也都是机器学习方法。降维包括特征抽取和特征选择两种途径。常用的特征转换方法有主成分分析（PCA）线性判别分析（LDA）等；
4. 预测：机器学习的核心部分，学习一个函数并进行预测。

表示学习，自动地学习出有效的特征，将输入信息转换为有效的特征，或者更一般性地称为表示，提高最终机器学习模型的性能。

在机器学习中，我们经常使用两种方式来表示特征：局部表示（Local Representation）和分布式表示（Distributed Representation）。

以颜色表示为例，

局部表示，以不同名字来命名不同的颜色，也称为离散表示或符号表示．局部表示通常可以表示为one-hot 向量的形式。

分布式表示，用RGB值来表示颜色，分布式表示通常可以表示为低维的稠密向量。

为了学习一种好的表示，需要构建具有一定“深度”的模型，并通过学习算法来让模型自动学习出好的特征表示（从底层特征，到中层特征，再到高层特征）， 从而最终提升预测模型的准确率。

深度学习的数据处理流程