Python中LARS和Lasso回归之最小角算法Lars分析波士顿住房数据实例

相关视频

在这种方法中，在每个步骤中选择最相关的变量，其方向在两个预测因子之间是等角的。

在本教程中，我们将学习如何用Python中的LARS和Lasso Lars算法拟合回归数据。我们将在本教程中估计住房数据集。这篇文章包括

准备数据

如何使用LARS

如何使用Lasso LARS

让我们从加载所需的包开始。

from sklearn import linear_model准备数据

我们将加载波士顿的数据集，并将其分成训练和测试两部分。

boston = load_boston()

xtrain, xtest, ytrain, ytest=train\_test\_split(x, y, test_size=0.15)如何使用LARS

我们将用Lars()类定义模型（有默认参数），并用训练数据来拟合它。

Lars().fit(xtrain, ytrain)

并检查模型的系数。

接下来，我们将预测测试数据并检查MSE和RMSE指标。

mean\_squared\_error(ytest, ypred)

print("MSE: %.2f" % mse)

MSE: 36.96

print("RMSE: %.2f" % sqrt(mse))

RMSE: 6.08

最后，我们将创建绘图，使原始数据和预测数据可视化。

plt.show()如何使用Lasso Lars

LassoLars是LARS算法与Lasso模型的一个实现。我们将用LassoLars()类定义模型，将α参数设置为0.1，并在训练数据上拟合模型。

左右滑动查看更多

01

02

03

04

LassoLars(alpha =.1).fit(xtrain, ytrain)

我们可以检查系数。

接下来，我们将预测测试数据并检查MSE和RMSE指标。

predict(xtest)

print("MSE: %.2f" % mse)

MSE: 45.59

print("RMSE: %.2f" % sqrt(mse))

RMSE: 6.75

最后，我们将创建绘图，使原始数据和预测数据可视化。

plt.show()

在本教程中，我们已经简单了解了如何用LARS和Lasso Lars算法来拟合和预测回归数据。

参考文献

Least Angle Regression,by Efron Bradley; Hastie Trevor; Johnstone Iain; Tibshirani Robert (2004)

Least-Angel Regression, Wikipedia