◆ 对于统计学习来讲,机器学习模型就是一个函数表达式,其训练过程就是在不断更新这个函数式的参数,以便这个函数能够对未知数据产生最好的预测效果
◆ 机器学习的这个过程,与人的学习过程原理是一样的,都是先学习而后使用...◆ 衡量预测效果好坏的函数称为代价函数(cost function) ,或损失函数(loss function).
◆ 例如:用一个模型预测是否会下雨,如果模型预测错误一天,则损失函数加1
那么机器学习算法的直接目标就是想方设法调节这个函数的参数...这个关系就是线性回归模型中的参数.有了它,我们就可以用这个模型对未知数据进行预测
◆ 机器学习的模型基本的训练过程亦是如此,属于监督学习
3.4 线性回归模型
◆ 线性回归的数学表达式是
[ptuuexaas4...]
5 随机梯度下降
5.1 何为随机梯度下降
◆ 随机梯度下降(SGD)是机器学习中常用的一种优化方法
◆ 它是通过不断迭代更新的手段,来寻找某一个函数的全局最优解的方法
◆ 与最小二乘法类似,都是优化算法...[jsmhaajj1i.png]
8.2 过拟合、欠拟合与刚刚好
◆ 人学习太过容易不懂得变通,过于教条,变成所谓的”书呆子”
机器学习也是一样
◆ 我们把机器学习模型训练得太过 ,陷入“教条”的状态称之为过拟合