大家好,又见面了,我是你们的朋友全栈君。
Python中训练LR模型一般使用sklearn包,输出模型报告和其他机器学习方法一样。但从统计背景出发,想看更详细的报告,statsmodel包可以帮助实现。
import statsmodels.api as sm
from statsmodels.stats.outliers_influence import variance_inflation_factor
#train样本上训练模型
y = trainData[y_name]
X = trainData[model_list]
X['intercept'] = [1] * X.shape[0]
LR = sm.Logit(y, X).fit()
#LR自带的summary报告,直接输出到excel不方便
summary = LR.summary()
#查看VIF
X_m = np.matrix(X)
VIF_list = [variance_inflation_factor(X_m, i) for i in range(X_m.shape[1])]
#varname_list = [X.columns[i] for i in range(len(VIF_list))]
#计算标准化系数
X_new = X.drop(['intercept'],axis = 1)
X_new2 = X_new.apply(lambda x: (x - np.mean(x)) / np.std(x))
LR_N = sm.Logit(trainData[y_name], X_new2).fit()
#wald检验
wald_test = LR.wald_test_terms().table
#拼接report
model_rpt1 = pd.concat([LR.params,LR.pvalues,wald_test['statistic'],LR_N.params],sort = False,axis = 1)
model_rpt1.columns = ['params','pvals','wald','normal_params']
model_rpt1['VIF'] = VIF_list
model_rpt1.sort_values(['normal_params'],ascending = True,inplace = True)
model_rpt1.fillna(0,inplace = True)
#计算模型变量间的相关系数
corr = X.drop(['intercept'],axis = 1).corr()
corr2 = corr.reset_index()
1.statsmodel训练模型过程不涉及筛选变量,所有送进去的模型变量都会参与拟合; 2.LR.predict(X_test) 可以给其他样本打分,其结果是p,而根据系数得到的结果是log(p/1-p)。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/182541.html原文链接:https://javaforall.cn