《机器学习》线性模型

很幸运能遇到一帮志同道合的朋友,一起学习,探索知识的海洋。最近,我们一起在研读《机器学习》周志华老师的西瓜书。

本篇的分享是关于第三章的内容——线性模型,由硕和源两位分享。由于硕分享的方式以自己问朋友们答为主没有相应的文本内容,故而这里分享源的slides。源所讲解的内容包含了第三章整一章,分享时大家讨论很热烈,收获不小。那么,接下来让我们看一看slides。以下所有slides的著作权是源的哈,如果大家看了之后有所启发和收获,打赏我的,我会转给他们哈~

线性模型是机器学习方法中,最为基础的内容,打下好的基础,会为后面理解更复杂的算法提供帮助。那么首先,先从线性回归开始。

书中有提到“闭合(closed-form solution)解”的概念,我们在硕分享时也有学习。此处也简单介绍。

解析解(analytical solution)就是一些严格的公式,给出任意的自变量就可以求出其因变量,也就是问题的解,他人可以利用这些公式计算各自的问题。解析解为一封闭形式(closed-form)的函数,因此对任一独立变量,我们皆可将其带入解析函数求得正确的相依变量。因此,解析解也被称为闭合解(closed-form solution)。

数值解(numerical solution)是采用某种计算方法,如有限元的方法,数值逼近,插值的方法,得到的解。

举个例子:

x^2 = 6,求解x。

x的解析解为sqrt(6)

x的数值解为2.449

接着,对数几率回归。

对数几率函数是一种 “Sigmoid 函数”,而Sigmoid函数是神经网络常用的激活函数(即人工神经网络的神经元上运行的函数)之一。

其次,线性判别式。

多分类问题,可理解为多个二分类问题,即将某个分类与其他所有类分开。

类别不平衡问题,在实际的应用场景中非常常见,其解决方案也需要我们熟知,如下:

书中还有大量的公式。数学好的、有兴趣的朋友,不妨试着推导一下,遇到问题,度娘还是会分享前人看过后的思考,可以指引推导哈。

据说,有必要在最后放上一个二维码,这样方便大家关注

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180807G09I5600?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券