机器学习入门 6-4 实现线性回归中的梯度下降法

本系列是《玩转机器学习教程》一个整理的视频笔记。本小节主要介绍如何在线性回归中使用梯度下降法以及将梯度下降法封装在我们自己创建的线性回归类中。

一

线性回归中使用梯度下降法

首先创建一些拥有线性关系的样本，然后通过梯度下降法求解使得MSE损失函数值最小的参数，即为线性回归模型的截距和样本中相应特征的系数。

二

将梯度下降法进行封装

接下来将梯度下降法封装在前面创建的LinearRegression线性回归类中，在LinearRegression类中创建一个名为"fit_gd"的函数：

接下来就是封装在LinearRegression类中的"fit_gd"函数：

接下来就可以在jupyter中调用我们封装的梯度下降法来求解线性回归模型：

这一小节我们使用自己构造的数据进行试验，并且在计算梯度下降法的时候并没有使用向量化的方式提高效率。因此在下一小节中，将在真实的数据上使用向量化的梯度下降法来求解线性回归模型。