ML基石_9_LinearRegression

• linear regression problem
• linear regression algorithm
  • 优化问题
  • 求梯度
  • 算法
• generalization issue
  • 是否学到了东西
  • 上限保证
  • 图形观点
  • 测试
• linear regression for binary classification
  • main idea
  • explaintation
  • 测试
• 总结

linear regression problem

这里写图片描述

linear regression algorithm

优化问题

这里写图片描述

求梯度

这里写图片描述

算法

这里写图片描述

generalization issue

是否学到了东西

这里写图片描述

上限保证

这里写图片描述

图形观点

这里写图片描述

测试

这里写图片描述

linear regression for binary classification

main idea

先用LR，把+-1当做Y，利用closed form得到w的值，然后利用LC的公式sign(wx)得到对应的Y值，是可以的。

这里写图片描述

explaintation

缩小了upper bound

这里写图片描述

测试

这里写图片描述

总结

这里写图片描述