学习
实践
活动
专区
工具
TVP
写文章

支持向量机原理介绍(二)

我们之前已经推导出来支持向量机的数学公式,现在我们打算用SMO算法来进行求解,得到这个公式的最佳系数

我这里先介绍这个算法的思想,介绍完思想后,我们再将思想套入进来。由于目标函数为凸函数(这里凸函数有兴趣的同学可以参考一下数学分析中的凸函数,凸函数等价于这个函数的导函数是单调递增的函数,深入的研究也很多性质,比如詹森不等式这样的)我们可以通过梯度的方法进行优化,但是目标函数是有条件限制的,所以,为了适应梯度个更新,我们更新时一次更新两个变量,我们先列出算法步骤,再一步步讲解这个算法。这里借用维基百科上一般步骤:

首先我们需要进行数学推导以上算法:

我们得到该推导式就可以用代码实现了(注该代码参考自机器学习实战,并参考自知乎文章https://zhuanlan.zhihu.com/p/29604517这里由于代码存在可读性比较差,这里略做修改):

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180723G0THAM00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券