专栏链接:《机器学习》学习笔记
目录
1 线性模型的基本形式
2 线性回归(linear regression)
2.1 对离散变量的处理
2.1.1 若样本只有一个属性
2.1.2 若样本只有多个属性...个,则通常转化为k维向量(One-Hot)
如:瓜类的取值黄瓜,西瓜,冬瓜,三类属性值转化为三维向量
若规定取值(黄瓜,西瓜,冬瓜),那么比如冬瓜...,对应位置标1,其余位置标0,
进一步而言,可转化为冬瓜(0,0,1),西瓜(0,1,0),黄瓜(1,0,0)
离散属性的处理:若有“序”(order),则连续化;...令导数为 0, 得到闭式(closed-form)解(U型函数如f(x)=x^2通常为凸函数,对凸函数求导=0可得w,b最优解的闭式解):
?
?...中的任何两个
?
?
?
的闭式解是
?
的 N-1 个最大广义,特征值所对应的特征向量组成的矩阵
3.3 多分类问题的拆分办法
?