深度学习系列教程(八)TensorFlow 中的正则化方法

"玩转TensorFlow与深度学习模型”系列文字教程,本周带来TensorFlow 中的正则化方法!

大家在学习和实操过程中,有任何疑问都可以通过学院微信交流群进行提问,有导师和助教、大牛为您解惑答疑哦。(入群方式在文末

第八篇的教程主要介绍-TensorFlow 中的正则化方法,包括:

过拟合简介

常用正则化用法

过拟合介绍

在对正则化的方法进行介绍之前,首先解释以下什么是过拟合。过拟合(overfitting)一般是指模型能够在训练数据集上得到越来越好的结果,但是在测试数据上的表现反而变差的现象,导致这种现象发生的原因一般是模型结果过于复杂,使得模型能够很好地描述训练数据,但是却丧失了泛化能力,对于没有参加训练的数据存在较大的误差。对于过拟合,欠拟合和模型容量的关系可以参见下图。

常用正则化方法

机器学习与深度学习中的一个核心问题就是如何使得一个模型或者算法能够有较好的泛化能力,即除了训练数据,我们希望模型在新产生的数据上的表现也尽可能的好,深度学习中有很多算法目标在于降低模型的test error,不过付出的代价就是有可能使得training error有所上升。这类策略统一叫做正则化(Regularizations)。

Parameter Norm Penalties

假设原来的损失函数为:

现在定义新的损失函数

当表示范数的时候, 就叫做Parameter Norm Penalties,

Parameter Norm Penalties 是一类常见的简单的正则化方法,主要分为L1正则化和L2正则化两种。一般情况我们只选用权重的范数作为penalty,而不对偏置进行正则化。

范数的计算公式:

L2 范数正则化

如果取(二分之一L2范数的平方)则叫做L2范数正则化。对于权重进行求导可以得到:

在每一步梯度下降中可以得到:

可以看到在每一步对权重进行更新的时候会对权重乘上一个小于1的常数。因此这种方法也叫做weight decay 。

L2 范数正则化的意义如下图所示:

假设w有两个元素w1,w2,虚线是,实线是

,为使得J取得最小值的w,为使得最小的w的取值。可以看到,J对于w在垂直方向上的移动更为敏感(梯度更大),而在水平方向上则没有那么敏感,从结果上来说 ,L2正则化对于对梯度影响较大的值的影响较小,对于对梯度没有太大影响的值会使得它更加接近于零。

在TensorFlow中使用:

L2_loss = alpha * tf.norm(W,2) **2+ loss

L1 范数正则化

当我们定义时,变为如下形式:

这时使用的就是L1正则化(LASSO):

从结果上来讲,增加L1 penalty会使得权重矩阵更加的稀疏(大部分的值为0)

在TensorFlow中使用:

L1_loss = alpha * tf.norm(W,1) + loss

Early Stopping

Early Stopping 也是深度学习过程之中常用的一种避免过拟合的方式。

如上图所示,当模型的容量足够大可以对训练任务进行过拟合的时候,一般随着训练的进行,training error是会平稳地下降的,但是validation error开始的时候会下降,但是到后期又会逐渐上升,这也就是说我们可以通过在validation error 较低的时候停止训练来得到一个泛化能力比较好的模型,这时的参数不是模型训练过程中最新的参数,而是在训练过程之中的某一套参数,这种策略叫做early stopping。

通过下图可以看出 Early Stopping 对于参数筛选的作用与使用Parameter Norm Penalties有时是类似的。左图是使用early stopping,右图是使用L2 norm。

Dropout

dropout 可以看作是同时训练多个模型,这看起来是个不可能完成的任务,因为每个模型都是一个大型的神经网络,训练和测试模型都十分的耗费资源,dropout提供了一种能够在不耗费过多资源的情况下近似训练和使用成指数级个模型的方法。

具体步骤如下:

梯度下降的过程中对于每一个mini-batch,我们对输入和隐含层中的每个单元根据预先设置好的概率进行随机抽样,生成掩码,掩码为1则保留,为0则舍去;

训练完成后将权重乘以保留单元的概率p,或者在训练过程中将每个单元的输出乘以1/p,进行训练;

最终使用模型的时候使用整个网络,不进行dropout。

dropout 网络示意图,一个简单的网络可以看作是有多个子网络构成的:

TensorFlow中使用Dropout:

TensorFlow在使用的时候已经对训练过程中的输出进行了放缩,所以不需要额外地进行处理了,x是dropout层的输入,p是每个单元保留的概率,注意仅仅在训练过程中使用dropout,在使用模型的时候要将p设置为1.,表示全部都进行保留,即不使用dropout。

本文来自企鹅号 - 天学网人工智能学院媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Deep learning进阶路

深度学习论文笔记(七)---Deconvolution network-2016年(Learning Deconvolution Network for Semantic Segmentation )

深度学习论文笔记(七)---Deconvolution network Learning Deconvolution Network for Semantic...

7240
来自专栏机器学习、深度学习

视频物体分割--One-Shot Video Object Segmentation

One-Shot Video Object Segmentation CVPR2017 http://www.vision.ee.ethz.ch/~cvl...

23210
来自专栏增长技术

Android 图像处理(1)

操作的对象是每个像素,我们可以改变图像的色相(Hue)、饱和度(Saturation)、明度(Luminance) ColorActivity

712
来自专栏郭耀华‘s Blog

MaxPooling的作用

maxpooling主要有两大作用 1. invariance(不变性),这种不变性包括translation(平移),rotation(旋转),scale(尺...

2707
来自专栏null的专栏

简单易学的机器学习算法——在线顺序极限学习机OS-ELM

   这篇文章主要是前面整理的,就直接上图了。 ? ? ? ? ? ? ? 实验: # coding:UTF-8 ################# # OS_...

7915
来自专栏数值分析与有限元编程

Jacobi方法求实对称阵的特征值

Jacobi方法用于求实对称阵的全部特征值、特征向量。对于实对称阵 A,必有正交阵 Q ,使 QT A Q = Λ 其中Λ是对角阵,其主对角线元素λii是A的特...

2736
来自专栏数据结构与算法

HDU3440 House Man

题意:有n栋房子,给出每栋房子的高度和开始时的相对位置,可以移动一些房子,但不能改变这些房子的相对位置,现在从最矮的房子开始,每次跳至比它高的第一栋房子, 而且...

2666
来自专栏机器学习算法原理与实践

条件随机场CRF(三) 模型学习与维特比算法解码

    在CRF系列的前两篇,我们总结了CRF的模型基础与第一个问题的求解方法,本文我们关注于linear-CRF的第二个问题与第三个问题的求解。第二个问题是模...

612
来自专栏人工智能

深度学习系列教程(八)TensorFlow 中的正则化方法

"玩转TensorFlow与深度学习模型”系列文字教程,本周带来TensorFlow 中的正则化方法! 大家在学习和实操过程中,有任何疑问都可以通过学院微信交流...

23910
来自专栏机器学习、深度学习

视频动作识别--Two-Stream Convolutional Networks for Action Recognition in Videos

Two-Stream Convolutional Networks for Action Recognition in Videos NIPS2014 h...

2866

扫码关注云+社区