前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >R语言缺失数据变量选择LASSO回归:Bootstrap重(再)抽样插补和推算

R语言缺失数据变量选择LASSO回归:Bootstrap重(再)抽样插补和推算

原创
作者头像
拓端
发布2022-12-06 20:32:22
5920
发布2022-12-06 20:32:22
举报
文章被收录于专栏:拓端tecdat拓端tecdat

全文链接:http://tecdat.cn/?p=30726

原文出处:拓端数据部落公众号

在存在缺失数据的情况下,需要根据缺失数据的机制和用于处理缺失数据的统计方法定制变量选择方法。我们专注于可以与插补相结合的随机和变量选择方法的缺失方法。

我们围绕自举Bootstrap插补和稳定性选择技术进行一些咨询,帮助客户解决独特的业务问题,后者是为完全观察的数据而开发的。所提出的方法是通用的,可以应用于广泛的设置。仿真研究表明,与几种针对低维和高维问题的现有方法相比,BI-SS的性能是最好的或接近最好的,并且对变量选择方面的参数值调整相对不敏感。

引言

变量选择已经广泛研究了完全观察到的数据,现有方法包括基于AIC的经典方法(Akaike,1974)和现代正则化方法,如套索(Tibshirani,1996)。与完全观测的数据相比,在存在缺失数据的情况下,变量选择出现了新的挑战。特别是,存在不同的缺失数据机制,对于每种机制,都有不同的统计方法来处理缺失数据。因此,变量选择方法需要根据缺失的数据机制和所使用的统计方法进行调整。Little和Rubin(2002)和Tsiatis(2006)一起对处理缺失数据的现有统计方法进行了全面回顾。

本文重点研究了随机缺失(MAR)的机制。根据MAR研究了变量选择,并对用于处理缺失数据的统计方法进行了研究。

代码语言:javascript
复制
### 具有非正态变量的示例数据集
set.seed(1000)
n <- 50
x1 <- round(runif(n,0.5,3.5))
x2 <- as.factor(c(rep(1,10),rep(2,25),rep(3,15)))

Bootstrap插补

随机创建缺失值

代码语言:javascript
复制
dat <- mice(data1)
complete(dat)

稳定性选择与自举插补相结合

代码语言:javascript
复制
train <- data[trainindex,1:6]
calibrate <- data[-trainindex,1:6]
plot(train)

Bootstrap插补

套索LASSO回归

lambda的最优值是通过交叉验证选择的。

image.png
image.png

Bolasso与自举插补相结合

image.png
image.png
代码语言:javascript
复制
beta.rescaled <- beta
for(j in 1:nrow(beta.rescaled)){
  beta.rescaled[j,] <- beta.rescaled[j,]*beta.scale
image.png
image.png

计算RSS

image.png
image.png

讨论

本文研究了一种在缺少数据的情况下进行变量选择的通用重采样方法,数值结果表明,对低维和高维问题都具有较好的性能。当专注于回归分析时,所提出的方法可以解读为适用于其他类型的分析。在我们感兴趣的背景下,将标准误差处理为参数估计是一项具有挑战性的任务。一种方法是将现有的获取标准误差的方法应用于仅限于变量选择过程选择的预测器的原始数据。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 全文链接:http://tecdat.cn/?p=30726
  • 原文出处:拓端数据部落公众号
  • 引言
  • Bootstrap插补
    • 随机创建缺失值
    • 稳定性选择与自举插补相结合
    • Bootstrap插补
    • 套索LASSO回归
    • Bolasso与自举插补相结合
    • 计算RSS
    • 讨论
    相关产品与服务
    腾讯云 BI
    腾讯云 BI(Business Intelligence,BI)提供从数据源接入、数据建模到数据可视化分析全流程的BI能力,帮助经营者快速获取决策数据依据。系统采用敏捷自助式设计,使用者仅需通过简单拖拽即可完成原本复杂的报表开发过程,并支持报表的分享、推送等企业协作场景。
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档