决策树的生成:
ID3算法:核心是在决策树各个结点上应用信息增益准则选择信息增益最大且大于阈值的特征,递归地构建决策树.ID3相当于用极大似然法进行概率模型的选择.由于算法只有树的生成,所以容易产生过拟合...对偶算法: 引进拉格朗日乘子,定义拉格朗日函数
?
,根据拉格朗日对偶性,原始问题的对偶问题是极大极小问题:
?
.先求对w,b的极小值.将L(w,b,a)分别对w,b求偏导数并令其等于0,得
?...,这就是极小值.接下来对极小值求对a的极大,即是对偶问题
?
.将求极大转换为求极小
?
.由KKT条件成立得到
?...,先求对w,b,ξ的极小值,分别求偏导并令导数为0,得
?
,代入原函数,再对极小值求a的极大值,得到
?
,利用后三条约束消去μ,再将求极大转换为求极小,得到对偶问题
?...,然后通过激活函数处理以产生神经元的输出.把许多个这样的神经元按一定的层次结构连接起来就得到了神经网络.一般使用反向传播(BP)算法来进行训练.