与逻辑回归和神经网络相比,支持向量机或者简称 SVM,更为强大。 人们有时将支持向量机看作是大间距分类器。
这是我的支持向量机模型代价函数 这样将得到一个更好的决策边界
理解支持向量机模型的做法,即努力将正样本和负用最大间距分开。
实际上应用支持向量机的时候, 当?不是非常大的时候, 它可以忽略掉一些异点影响得到更好的决策界。
?=1/?,因此: ,因此: ? 较大时,相当于 ? 较小,可能会导致过拟合高方差。 ? 较小时,相当于? 较大,可能会导致低拟合高偏差。
为了更好的构建高阶多项式,高斯核函数 (Gaussian Kernel)
下面是 支持向量机的两个参数 ?和?的影响: ?=1/? ? 较大时,相当于 ?较小,可能会导致过拟合高方差; ? 较小时,相当于 ?较大,可能会导致低拟合高偏差; ?较大时,可能会导致低方差高偏; ?较小时,可能会导致低偏差高方。