机器学习day8-SVM训练误差为0的解存在问题

训练误差为0的SVM分类器一定存在吗

理论上，存在一组参数

以及

使得SVM训练误差为0，但是这个参数不一定是满足SVM条件的一个解，在实际训练SVM模型时，会加入一个松弛变量，那么还能够保证得到的SVM分类器满足训练误差为0吗？ 因此，我们需要找到一组参数，使得满足训练误差为0，且是SVM模型的解。 SVM模型解的限制条件是

目前我们得到的一组参数可以使得，当

时，

；当

时，

。 因此，我们还需要满足的条件，

因此，对于公式，首先令b=0，则

因此，

这里，

。

取值非常小，也就满足了

。此时满足了SVM的解条件，同时此时模型误差也为0。

加入松弛变量，SVM的训练误差可以为0吗

实际中使用SMO算法来训练加入松弛变量的线性SVM模型，并且惩罚因子为任一未知常数，也不一定可以得到训练误差为0的模型。 带松弛变量的SVM模型的目标函数包含这两项：

当C=0，

=0，达到了优化目标，此时训练误差不一定为0。