台湾大学林轩田机器学习基石课程学习笔记14 -- Regularization

上节课我们介绍了过拟合发生的原因:excessive power, stochastic/deterministic noise 和limited data。并介绍了解决overfitting的简单方法。本节课,我们将介绍解决overfitting的另一种非常重要的方法:Regularization规则化。

一、Regularized Hypothesis Set

先来看一个典型的overfitting的例子:

如图所示,在数据量不够大的情况下,如果我们使用一个高阶多项式(图中红色曲线所示),例如10阶,对目标函数(蓝色曲线)进行拟合。拟合曲线波动很大,虽然E_{in}很小,但是E_{out}很大,也就造成了过拟合现象。

那么如何对过拟合现象进行修正,使hypothesis更接近于target function呢?一种方法就是regularized fit。

这种方法得到的红色fit曲线,要比overfit的红色曲线平滑很多,更接近与目标函数,它的阶数要更低一些。那么问题就变成了我们要把高阶(10阶)的hypothesis sets转换为低阶(2阶)的hypothesis sets。通过下图我们发现,不同阶数的hypothesis存在如下包含关系:

我们发现10阶多项式hypothesis sets里包含了2阶多项式hypothesis sets的所有项,那么在H_{10}中加入一些限定条件,使它近似为H_2即可。这种函数近似曾被称之为不适定问题(ill-posed problem)。

如何从10阶转换为2阶呢?首先,H_{10}可表示为: H_{10}=w_0+w_1x+w_2x^2+w_3x^3+\cdots+w_{10}x^{10}

而H2H_2可表示为: H_2=w_0+w_1x+w_2x^2

所以,如果限定条件是w_3=w_4=\cdots=w_{10}=0,那么就有H_2=H_{10}。也就是说,对于高阶的hypothesis,为了防止过拟合,我们可以将其高阶部分的权重w限制为0,这样,就相当于从高阶的形式转换为低阶,fit波形更加平滑,不容易发生过拟合。

那有一个问题,令H_{10}高阶权重w为0,为什么不直接使用H_2呢?这样做的目的是拓展我们的视野,为即将讨论的问题做准备。刚刚我们讨论的限制是H_{10}高阶部分的权重w限制为0,这是比较苛刻的一种限制。下面,我们把这个限制条件变得更宽松一点,即令任意8个权重w为0,并不非要限定w_3=w_4=\cdots=w_{10}=0,这个Looser Constraint可以写成: \sum_{q=0}^{10}(w_q\neq0)\leq3

也就只是限定了w不为0的个数,并不限定必须是高阶的w。这种hypothesis记为H_2',称为sparse hypothesis set,它与H_2和H_{10}的关系为: H_2\subset H_2'\subset H_{10}

Looser Constraint对应的hypothesis应该更好解一些,但事实是sparse hypothesis set H_2'被证明也是NP-hard,求解非常困难。所以,还要转换为另一种易于求解的限定条件。

那么,我们寻找一种更容易求解的宽松的限定条件Softer Constraint,即: \sum_{q=0}^{10}w_q^2=||w||^2\leq C

其中,C是常数,也就是说,所有的权重w的平方和的大小不超过C,我们把这种hypothesis sets记为H(C)

H_2'H(C)的关系是,它们之间有重叠,有交集的部分,但是没有完全包含的关系,也不一定相等。对应H(C),C值越大,限定的范围越大,即越宽松: H(0)\subset H(1.126)\subset \cdots \subset H(1126)\subset \cdots \subset H(\infty)=H_{10}

当C无限大的时候,即限定条件非常宽松,相当于没有加上任何限制,就与H_{10}没有什么两样。H(C)称为regularized hypothesis set,这种形式的限定条件是可以进行求解的,我们把求解的满足限定条件的权重w记为w_{REG}。接下来就要探讨如何求解w_{REG}

二、Weight Decay Regularization

现在,针对H(c),即加上限定条件,我们的问题变成:

我们的目的是计算E_{in}(w)的最小值,限定条件是||w^2||\leq C。这个限定条件从几何角度上的意思是,权重w被限定在半径为\sqrt C的圆内,而球外的w都不符合要求,即便它是靠近E_{in}(w)梯度为零的w。

下面用一张图来解释在限定条件下,最小化E_{in}(w)的过程:

如上图所示,假设在空间中的一点w,根据梯度下降算法,w会朝着\nabla E_{in}的方向移动(图中蓝色箭头指示的方向),在没有限定条件的情况下,w最终会取得最小值w_{lin},即“谷底”的位置。现在,加上限定条件,即w被限定在半径为\sqrt C的圆内,w距离原点的距离不能超过圆的半径,球如图中红色圆圈所示w^Tw=C。那么,这种情况下,w不能到达w_{lin}的位置,最大只能位于圆上,沿着圆的切线方向移动(图中绿色箭头指示的方向)。与绿色向量垂直的向量(图中红色箭头指示的方向)是圆切线的法向量,即w的方向,w不能靠近红色箭头方向移动。那么随着迭代优化过程,只要\nabla E_{in}与w点切线方向不垂直,那么根据向量知识,\nabla E_{in}一定在w点切线方向上有不为零的分量,即w点会继续移动。只有当\nabla E_{in}与绿色切线垂直,即与红色法向量平行的时候,\nabla E_{in}在切线方向上没有不为零的分量了,也就表示这时w达到了最优解的位置。

有了这个平行的概念,我们就得到了获得最优解需要满足的性质: \nabla E_{in}(w_{REG})+\frac{2\lambda}{N}w_{REG}=0

上面公式中的λ\lambda称为Lagrange multiplier,是用来解有条件的最佳化问题常用的数学工具,\frac2N是方便后面公式推导。那么我们的目标就变成了求解满足上面公式的w_{REG}

之前我们推导过,线性回归的E_{in}的表达式为: E_{in}=\frac1N\sum_{n=1}^N(x_n^Tw-y_n)^2

计算E_{in}梯度,并代入到平行条件中,得到: \frac2N(Z^TZw_{REG}-Z^Ty)+\frac{2\lambda}Nw_{REG}=0

这是一个线性方程式,直接得到w_{REG}为: w_{REG}=(Z^TZ+\lambda I)^{-1}Z^Ty

上式中包含了求逆矩阵的过程,因为Z^TZ是半正定矩阵,如果\lambda大于零,那么Z^TZ+\lambda I一定是正定矩阵,即一定可逆。另外提一下,统计学上把这叫做ridge regression,可以看成是linear regression的进阶版。

如果对于更一般的情况,例如逻辑回归问题中,\nabla E_{in}不是线性的,那么将其代入平行条件中得到的就不是一个线性方程式,w_{REG}不易求解。下面我们从另一个角度来看一下平行等式: \nabla E_{in}(w_{REG})+\frac{2\lambda}{N}w_{REG}=0

已知\nabla E_{in}E_{in}w_{REG}的导数,而\frac{2\lambda}{N}w_{REG}也可以看成是\frac{\lambda}Nw_{REG}^2的导数。那么平行等式左边可以看成一个函数的导数,导数为零,即求该函数的最小值。也就是说,问题转换为最小化该函数: E_{aug}(w)=E_{in}(w)+\frac{\lambda}Nw^Tw

该函数中第二项就是限定条件regularizer,也称为weight-decay regularization。我们把这个函数称为Augmented Error,即E_{aug}(w)

如果λ不为零,对应于加上了限定条件,若\lambda等于零,则对应于没有任何限定条件,问题转换成之前的最小化E_{in}(w)

下面给出一个曲线拟合的例子,λ取不同的值时,得到的曲线也不相同:

从图中可以看出,当\lambda=0时,发生了过拟合;当\lambda=0.0001时,拟合的效果很好;当\lambda=0.01\lambda=1时,发生了欠拟合。我们可以把λ看成是一种penality,即对hypothesis复杂度的惩罚,λ越大,w就越小,对应于C值越小,即这种惩罚越大,拟合曲线就会越平滑,高阶项就会削弱,容易发生欠拟合。\lambda一般取比较小的值就能达到良好的拟合效果,过大过小都有问题,但究竟取什么值,要根据具体训练数据和模型进行分析与调试。

事实上,这种regularization不仅可以用在多项式的hypothesis中,还可以应用在logistic regression等其他hypothesis中,都可以达到防止过拟合的效果。

我们目前讨论的多项式是形如x^2,x^3,\cdots,x^n的形式,若x的范围限定在[-1,1]之间,那么可能导致x^n相对于低阶的值要小得多,则其对于的w非常大,相当于要给高阶项设置很大的惩罚。为了避免出现这种数据大小差别很大的情况,可以使用Legendre Polynomials代替x,x^2,x^3,\cdots,x^n这种形式,Legendre Polynomials各项之间是正交的,用它进行多项式拟合的效果更好。关于Legendre Polynomials的概念这里不详细介绍,有兴趣的童鞋可以看一下维基百科

三、Regularization and VC Theory

下面我们研究一下Regularization与VC理论之间的关系。Augmented Error表达式如下: E_{aug}(w)=E_{in}(w)+\frac{\lambda}Nw^Tw

VC Bound表示为: E_{out}(w)\leq E_{in}(w)+\Omega(H)

其中w^Tw表示的是单个hypothesis的复杂度,记为\Omega(w);而\Omega(H)表示整个hypothesis set的复杂度。根据Augmented Error和VC Bound的表达式,\Omega(w)包含于\Omega(H)之内,所以,E_{aug}(w)E_{in}更接近于E_{out},即更好地代表E_{out}E_{aug}(w)E_{out}之间的误差更小。

根据VC Dimension理论,整个hypothesis set的d_{VC}=\breve d+1,这是因为所有的w都考虑了,没有任何限制条件。而引入限定条件的d_{VC}(H(C))=d_{EFF}(H,A),即有效的VC dimension。也就是说,d_{VC}(H)比较大,因为它代表了整个hypothesis set,但是d_{EFF}(H,A)比较小,因为由于regularized的影响,限定了w只取一小部分。其中A表示regularized算法。当\lambda>0时,有: d_{EFF}(H,A)\leq d_{VC}

这些与实际情况是相符的,比如对多项式拟合模型,当\lambda=0时,所有的w都给予考虑,相应的d_{VC}很大,容易发生过拟合。当\lambda>0且越来越大时,很多w将被舍弃,d_{EFF}(H,A)减小,拟合曲线越来越平滑,容易发生欠拟合。

四、General Regularizers

那么通用的Regularizers,即\Omega(w),应该选择什么样的形式呢?一般地,我们会朝着目标函数的方向进行选取。有三种方式:

  • target-dependent
  • plausible
  • friendly

其实这三种方法跟之前error measure类似,其也有三种方法:

  • user-dependent
  • plausible
  • friendly

regularizer与error measure是机器学习模型设计中的重要步骤。

接下来,介绍两种Regularizer:L2和L1。L2 Regularizer一般比较通用,其形式如下: \Omega(w)=\sum_{q=0}^Qw_q^2=||w||_2^2

这种形式的regularizer计算的是w的平方和,是凸函数,比较平滑,易于微分,容易进行最优化计算。

L1 Regularizer的表达式如下: \Omega(w)=\sum_{q=0}^Q|w_q|=||w||_1

L1计算的不是w的平方和,而是绝对值和,即长度和,也是凸函数。已知w^Tw=C围成的是圆形,而||w||_1=C围成的是正方形,那么在正方形的四个顶点处,是不可微分的(不像圆形,处处可微分)。根据之前介绍的平行等式推导过程,对应这种正方形,它的解大都位于四个顶点处(不太理解,欢迎补充赐教),因为正方形边界处的w绝对值都不为零,若\nabla E_{in}不与其平行,那么w就会向顶点处移动,顶点处的许多w分量为零,所以,L1 Regularizer的解是稀疏的,称为sparsity。优点是计算速度快。

下面来看一下λ如何取值,首先,若stochastic noise不同,那么一般情况下,\lambda取值有如下特点:

从图中可以看出,stochastic noise越大,λ越大。

另一种情况,不同的deterministic noise,λ取值有如下特点:

从图中可以看出,deterministic noise越大,λ越大。

以上两种noise的情况下,都是noise越大,相应的λ也就越大。这也很好理解,如果在开车的情况下,路况也不好,即noise越多,那么就越会踩刹车,这里踩刹车指的就是regularization。但是大多数情况下,noise是不可知的,这种情况下如何选择λ?这部分内容,我们下节课将会讨论。

五、总结

本节课主要介绍了Regularization。首先,原来的hypothesis set加上一些限制条件,就成了Regularized Hypothesis Set。加上限制条件之后,我们就可以把问题转化为E_{aug}最小化问题,即把w的平方加进去。这种过程,实际上回降低VC Dimension。最后,介绍regularization是通用的机器学习工具,设计方法通常包括target-dependent,plausible,friendly等等。下节课将介绍如何选取合适的λ来建立最佳拟合模型。

注明:

文章中所有的图片均来自台湾大学林轩田《机器学习基石》课程

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

入门 | 极简Python带你探索分类与回归的奥秘

2826
来自专栏Gaussic

Machine Learning笔记(一) 监督学习、非监督学习

对于要买房子的人,充分的市场调研可以充分的了解市场行情。假设你想买一栋 750 feet2 的房子,而在其他方面没有太大的要求,现已收集了许多房屋的尺寸极其对应...

361
来自专栏大数据挖掘DT机器学习

用R语言做钻石价格预测

作者:夏尔康 https://ask.hellobi.com/blog/xiaerkang/4424 1.1问题描述和目标 因为钻石的价格定价取决于重量...

3364
来自专栏算法channel

机器学习:半朴素贝叶斯分类器

主要推送关于对算法的思考以及应用的消息。培养思维能力,注重过程,挖掘背后的原理,刨根问底。本着严谨和准确的态度,目标是撰写实用和启发性的文章,欢迎您的关注。 0...

3966
来自专栏窗户

有限域(3)——多项式环的商环构造有限域

  接着上两章内容,我们还是得继续寻找有限域的构造方法。上章证明矩阵环是个单环,自然是没戏了,但我们还可以考虑多项式环。

872
来自专栏大数据挖掘DT机器学习

支持向量机(SVM)入门详解(续)与python实现

接前文 支持向量机SVM入门详解:那些你需要消化的知识 让我再一次比较完整的重复一下我们要解决的问题:我们有属于两个类别的样本点(并不限定这些点在二维空间中)若...

2808
来自专栏专知

CNN神经网络内部知识表达的“黑”与“白“

来源:知乎-Qs.Zhang张拳石 https://zhuanlan.zhihu.com/p/31365150 ▌前言 ---- 关于神经网络内部的知识表达,深...

3198
来自专栏数据科学与人工智能

【算法】word2vec与doc2vec模型

小编邀请您,先思考: 1 word2vec算法原理是什么? 2 word2vec与doc2vec有什么差异? 3 如何做word2vec和doc2vec? 深度...

5147
来自专栏大数据文摘

引入秘密武器强化学习,发掘GAN在NLP领域的潜力(附公开课)

1301
来自专栏AI研习社

如何使用高大上的方法调参数

本文主要介绍作者与 Elad Hazan, Adam Klivans 合作的最新论文: Hyperparameter Optimization: A Spec...

3509

扫码关注云+社区