机器学习原理-支持向量机

1. 支持向量机svm

支持向量机（SVM，Support Vector Machine）是一种监督学习方法。是以超平面的方式对二类的分类算法。

分类:hard-margin svm ,soft-margin svm kernel svm

支持向量机三宝: 间隔 核函数 对偶问题

1.1 线性可分

特征数据x与标签数据y（y取值-1，1），由x组成的特征共空间，存在一个将正负样本分开的超平面，并且使点到平面的距离大于等于0，则称该问题线性可分。

D0和是D1维欧氏空间中的两个点集。如果存在 n 维向量 w 和实数 b，使得所有属于D0的点xi都有wxi+b>0，而对于所有属于D1的点xj则有wxj+b<0，则我们称D0和D1线性可分。

1.2 支持向量

距离超平面最近的一些点，叫做支持向量。