专栏首页菜鸟致敬机器学习day8-SVM训练误差为0的解存在问题

机器学习day8-SVM训练误差为0的解存在问题

训练误差为0的SVM分类器一定存在吗

理论上,存在一组参数

以及

使得SVM训练误差为0,但是这个参数不一定是满足SVM条件的一个解,在实际训练SVM模型时,会加入一个松弛变量,那么还能够保证得到的SVM分类器满足训练误差为0吗? 因此,我们需要找到一组参数,使得满足训练误差为0,且是SVM模型的解。 SVM模型解的限制条件是

目前我们得到的一组参数可以使得,当

时,

;当

时,

。 因此,我们还需要满足的条件,

因此,对于公式,首先令b=0,则

因此,

这里,

取值非常小,也就满足了

。此时满足了SVM的解条件,同时此时模型误差也为0。

加入松弛变量,SVM的训练误差可以为0吗

实际中使用SMO算法来训练加入松弛变量的线性SVM模型,并且惩罚因子为任一未知常数,也不一定可以得到训练误差为0的模型。 带松弛变量的SVM模型的目标函数包含这两项:

当C=0,

=0,达到了优化目标,此时训练误差不一定为0。

本文分享自微信公众号 - Python与MySQL(Python_Rick),作者:Rare

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-06-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 机器学习day5

    网格搜索应该是最简单的超参数搜索算法。采用较大的搜索范围和较小的步长。十分耗费计算资源和时间。一般是先设置较大的搜索范围和较大的步长,来寻找全局最优值的可能位置...

    Rare0716
  • 数据结构|实现一个链表[4]

    如上面的代码,就是构建了链表在内存中的存储结构,int data是需要存储的int数据。struct JD *prior则是定义指向前面一个链表结构体的指针。s...

    Rare0716
  • Python中is和==的区别

    Python中对象包含的三个基本要素,分别是:id(身份标识)、type(数据类型)和value(值)。

    Rare0716
  • SVM原理与实现

    支持向量机(Support Vector Machine,SVM)是众多监督学习方法中十分出色的一种,几乎所有讲述经典机器学习方法的教材都会介绍。关于SVM,流...

    大数据技术与机器学习
  • 机器学习|支持向量机参数求解

    01 — 支持向量机 支持向量机的简称为SVM,能在已知样本点很少情况下,获得很好的分类效果。 02 — SVM分类两个点 已知两个样本点,如果用SVM模型,决...

    double
  • 【分类战车SVM】第一话:开题话

    分类战车SVM (第一话:开题话) 大家好,今天开始给大家介绍机器学习世界的一种新武器——支持向量机,代号为SVM。 (1)支持向量机的出身:新贵家族“模式识别...

    数说君
  • 【分类战车SVM】第一话:开题话

    分类战车SVM (第一话:开题话) ---- 开题诗: KKT条件, 像绵延起伏的万水千山 隔断了我的视线, 却隔不断我对远方的期盼 少年傲然,曾经,要追寻生命...

    数说君
  • 支持向量机学习笔记:数学过程及经典Tutorial

    http://blog.csdn.net/linj_m/article/details/18322149   ( SVM系列 )

    bear_fish
  • 学习SVM(五)理解线性SVM的松弛因子

    学习SVM(一) SVM模型训练与分类的OpenCV实现 学习SVM(二) 如何理解支持向量机的最大分类间隔 学习SVM(三)理解SVM中的对偶问题 ...

    chaibubble
  • 学习SVM(三)理解SVM中的对偶问题

    学习SVM(一) SVM模型训练与分类的OpenCV实现 学习SVM(二) 如何理解支持向量机的最大分类间隔 学习SVM(三)理解SVM中的对偶问题 ...

    chaibubble

扫码关注云+社区

领取腾讯云代金券