用R语言做钻石价格预测

作者:夏尔康

https://ask.hellobi.com/blog/xiaerkang/4424

1.1问题描述和目标

因为钻石的价格定价取决于重量,颜色,刀工等影响,价格该如何制定合理,为公司抢占市场制定价格提供依据。

1.2数据说明

这里我使用的是R语言里面数据集diamonds,如果看这本《ggplot2:数据分析与图形艺术》应该对这个数据都不会太陌生。该数据集收集了约54000颗钻石的价格和质量的信息。每条记录由十个变量构成,其中有三个是名义变量,分别描述钻石的切工,颜色和净度;

carat:克拉重量

cut:切工

color:颜色

clarity:净度

depth:深度

table:钻石宽度

以及X,Y,Z

1.3数据加载到R中

由于数据集是R语言自带的,所以我们只要输入下面的命令行查看数据前六行。

head(diamond)

1.3.1构建数据

sample_date <- sample(2,nrow(diamonds),replace=TRUE,prob=c(0.7,0.3))
trai_date <- diamonds[sample_date==1,]#训练数据
test_date <- diamonds[sample_date==2,]#测试数据

1.4数据可视化和概括

因为我们目前没有该问题领域足够多的信息,所以我们先要了解一下这些数据的统计特性是一种比较好的方式,它方便我们更好理解问题。

首先获取概括性统计描述

summary(trai_date)

对于名义变量它给出了每个可能取值的频数,例如,在刀工上ideal等级比其他等级刀工的钻石更多,其他

以下代码回执出关于钻石深度的一个分部

library(car)
par(mfrow=c(1,2))
hist(trai_date$depth,prob=T,xlab=" ")
lines(density(trai_date$depth))
qq.plot(trai_date$depth)

可以看得出来钻石深度在62左右是在最多,分部服从一个类正态分布。Q-Q图上看,数据完全是不服从正态分布的,因为它呈现的是一个曲线,不是一个直线。

这时候我们在使用lattice包绘制箱线图,看看在颜色上的分布是否有区别

library(lattice)
bwplot(depth~color,data=trai_date)

在各个颜色上钻石的深度差异其实不大。

1.5缺失值的处理

数据中出现缺失值的情况其实非常普遍,这会导致在一些不能处理缺失值的分析方法无法应用,一般我们遇到缺失值的数据时候,可以运用几种常见的策略。

~将含有缺失值的案例剔除

~根据变量之间的相关关系填补缺失值

~根据案例之间的相似性填补缺失值

~使用能够处理缺失值数据的工具

这里由于数据集中不存在缺失值,所以以上方法不讲了,请原谅我的坑爹。等下次遇到再讲该如何处理。

1.6各个属性相关性探索

因为我们想要知道各个变量之间的相关性到低是怎么样的,这样子对我们的建模的时候考虑选择模型的时候或者选择变量都有一个很好的参考,这时候我们有个叫cor函数可以计算各个变量之间的相关系数,并产生一个相关系数矩阵

cor(trai_date[,-c(2,3,4)])#这里剔除了三个名义变量

这里为了使其输出结果更加的友好,我们使用symnum函数改善输出结果,这里我们可以看得出钻石的深度貌似和其他变量相关性都不是很强,而钻石重量克拉数却和价格,X,Y,Z相关度特别高,这时候我们对模型的各个变量都有个大致的了解了;是时候展现真正的技术了,那就改考虑模型的选择了

symnum(cor(trai_date[,-c(2,3,4)]))

1.7获取预测模型

因为我们主要是的研究目的是预测,预测测试数的钻石价格;不过从数据结构和数据分布上来看,我们可以使用回归模型和随机森林两类预测模型模型;在回归类的模型中我们可以考虑使用多元线性回归和回归决策树两种模型,到时候我们在建立一个评估模型的函数看哪个模型的预测误差小

1.7.1多元线性回归

这里我们使用Lm函数对数据进行拟合,预测变量是价格,因此我们先初步对多元线性回归模型的一个探索先

lm_model <- lm(price~.,data=trai_date)

summary(lm_model)

得到的模型结果很NICE,调整后的可决系数高达0.9194,这说明了模型可以解释百分九十一的方差,各个变量的显著性也很高,大部分都是三颗星以上的高度显著;先说一下R是怎么处理那三个名义变量的,当像上面一样进行建模的时候,R会生成一组辅助变量,对每一个有K个水平的因子变量,R会生成K-1个辅助变量,辅助比那辆的值为0或者1,当辅助变量的值为1,表示该因子出现,同时表明其他所有辅助变量值为0,以上结果汇总;所以从上图结果我们可以看得出来cut变量生成了cut.l,cut.q,cut.c,cut.4:这4个辅助变量。

我们要提出那些不相关的变量,一个个剔除确实是有些麻烦,这个时候我们选择通过对初始模型用向后剔除法得到一个新的模型

step_lm_model <- step(lm_model)

上图结果展示,模型的AIC值是下降了,也剔除了变量Y,模型是稍微精简了点,这时候我们在看一下模型的整体结果如何;

summary(step_lm_model)

当我看到这个结果的时候其实我是拒绝的,因为。。。。;因为模型的结果没变化,尔康我很心塞,苍天不公,好吧,不过因为可决系数很高,所以我们还不能放弃,这时候通过模型诊断看看

先用PLOT函数画出诊断图。

par(mfrow=c(2,2))
plot(step_lm_model)

弱弱解释着这四幅图,解释不好还请各位拍砖头,

左上:代表的残差值和拟合值的拟合图,如果模型的因变量和自变量是线性相关的话,残差值和拟合值是没有任何关系的,他们的分布应该是也是在0左右随机分布,从结果上看,还算是一条直线分布,在后面结尾的时候有几个离群点;

右上:代表正态QQ图,说白了就是标准化后的残差分布图,如果满足正态假定,那么点应该都在45度的直线上,若不是就违反了正态性假定,开始和结尾是的角度数我不敢恭维,不过我们考虑加个非线性项进去;

左下:位置尺度图,主要是检验是否同方差的假设,如果是同方差,周围的点应该随机分布,从结果上看,一条直线毕竟无法容纳太多点

右下:主要是影响点的分析,叫残差与杠杆图,鉴别离群值和高杠杆值和强影响点,说白了就是对模型影响大的点。

加了一个二次项后发现模型结果纹丝不动,意思也就是说么怎么改变;到这里我也该放弃了,毕竟强扭的瓜不甜,强追的女孩受伤重;

1.7.2回归树

这时候我们需要加载包rpart,然后通过rpart函数构建回归树

library(rpart)
 tree_model <-rpart(price~.,data=trai_date)

在稍微解释在一下这个结果吧,其实已经有写博客介绍过这个结果了,第二行包括了一些信息,包括了节点编号,描述,观察值的数目,偏差和预测值;

对模型进行可视化,这里就不需要我博客课上写过的用maptree包里面的draw.tree函数去画图,这里就还是用一下

library(maptree)
draw.tree(tree_model)

这时候为了防止过度拟合,我们需要对模型进行剪枝,就是偏差的减少小于某一个给定的限定值时候

这里的因为选择不详细介绍,因为篇幅有限,老衲也想早点写完;这时候我们需要确定和计算每个节点的参数值cp,这个参数CP值就是决定函数rpart在构建树的时候如何选择,因此在这里我们生成各个树节点的情况,使用rsq.rpart打印结果

rsq.rpart(tree_model)

这时候我们要选择出合适的CP值来构建复杂性和效果性达到一个平衡点,选择plotcp函数帮助我们选择cp值,根绝下图,选择cp在0.1的时候最佳。

plotcp(tree_model)

这时候我们通过使用prune函数对初始模型进行剪枝,然后得到结果

tree_model2 <- prune(tree_model,cp=0.1)

1.7.3随机森林

写了那么多,还是咬咬牙写一下这个模型,随机森林模型工作原理就是将各个学习模型的结果组合在一起,如果是分类属性,根据投票选出最优结果,如果是连续型,像价格这样的就话就求平均;

选取合适的变量数

因为合适的变量是能够有效的降低误差,因此我们需要写个程序遍历一下,数据集总共有十个变量

m =ncol(trai_date)
for (i in 1:(m-1)){
  test_model <- randomForest(price~.,data=trai_date,mtry=i,importance=TRUE,
                             proximity=TRUE)
  mse <- mean(test_model$mse)
  print(mse)
}

这里模型告诉我们要6个,注意是6个!!因为这时候价格是连续型变量,所以只能要均方残差,如果是字符型变量也就是名义型变量的话就要使用err

选择合适的NTREE值

ntree就是随机森林的的决策树数量,设置过低话预测误差过高,而NTREE过高的话又会提升模型的复杂度,降低效率;初始设置为500,查看结果

forest_model <- randomForest(price~.,data=trai_date,mtry=6,ntree=500)
plot(forest_model)

当子树在100左右的时候误差基本没什么变化,因此我们选择Ntree=100

forest_model_final <- randomForest(price~.,data=trai_date,mtry=6,ntree=100)

这个模型能解读数据的方差占97.81%,看来模型很成功。NICE

1.8模型的评价和选择

在这里我使用一个简单的方法来对模型拟合的判断,我写一个函数,估计每个模型的训练数据和测试数据的均方根误差,当然你也可以自己写的方法,这里不限制

代码如下

 cal_rms_error <- function(model,train,test,yval){
   train.yhat <- predict(object=model,newdata=train)
   test.yhat <- predict(object=model,newdata=test)
   train.y <- with(train,get(yval))
   test.y <- with(test,get(yval))
   train.err <- sqrt(mean((train.yhat-train.y)^2))
   test.err <- sqrt(mean((test.yhat-test.y)^2))
   c(train.err=train.err,test.err)
 }

说明一下这个函数,第一个是模型对象,第二是训练数据,第三是测试数据,第四预测变量,它会输出训练数据和测试数据的均方根误差

首先判断一下多元线性回归模型,看看是不是我们的真爱

cal_rms_error(step_lm_model,trai_date,test_date,'price')

在判断判断一下回归树,突然发现误差挺大的,算了,不考虑它

 cal_rms_error(tree_model2,trai_date,test_date,'price')

最后我们判断I一下随机深林的模型

 cal_rms_error(forest_model_final,trai_date,test_date,'price')

这个结果告诉我,什么才叫做真爱,不过测试数据是训练数据的2倍多,这个后期可能需要优化一下,不过不想那么多了。所以我觉得我应该抛弃多元线性模型和回归树,使用随机森林模型,所以以后要预测钻石的价格就使用这个模型;

原文发布于微信公众号 - 大数据挖掘DT数据分析(datadw)

原文发表时间:2016-08-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据挖掘DT机器学习

用R语言写个贝叶斯模型 预测我的妻子是否怀孕

在2015年的二月21日,我的妻子已经33天没有来月经了,她怀孕了,这真是天大的好消息! 通常月经的周期是大约一个月,如果你们夫妇打算怀孕,那么月经没来或许是一...

2809
来自专栏机器之心

基于TensorFlow理解三大降维技术:PCA、t-SNE 和自编码器

选自medium 机器之心编译 参与:Panda Pythonista 数据科学家 Elior Cohen 近日在 Medium 上发文解读了最常见的三大降维技...

3147
来自专栏AI科技评论

想了解递归神经网络?这里有一份入门教程

本文来自deeplearning4j,AI科技评论编辑。 递归神经网络是一类人工神经网络,用于识别诸如文本、基因组、手写字迹、语音等序列数据的模式,或用于识别传...

2863
来自专栏机器之心

学界 | 南京理工大学ICCV 2017论文:图像超分辨率模型MemNet

选自arXiv 机器之心编译 参与:路雪 利用卷积神经网络让图片清晰化的研究目前正成为计算机视觉领域的热点方向。近日,南京理工大学邰颖、杨健、许春燕与密歇根州立...

2845
来自专栏开源FPGA

基于FPGA的Sobel边缘检测的实现

  前面我们实现了使用PC端上位机串口发送图像数据到VGA显示,通过MATLAB处理的图像数据直接是灰度图像,后面我们在此基础上修改,从而实现,基于FPGA的动...

2008
来自专栏数据科学与人工智能

【陆勤践行】机器学习中距离和相似性度量方法

在机器学习和数据挖掘中,我们经常需要知道个体间差异的大小,进而评价个体的相似性和类别。最常见的是数据分析中的相关分析,数据挖掘中的分类和聚类算法,如 K 最近邻...

2268
来自专栏专知

吴恩达高徒语音专家Awni Hannun:序列模型Attention Model中的问题与挑战

【导读】注意力模型(Attention Model)被广泛使用在自然语言处理、图像识别及语音识别等各种不同类型的深度学习任务中,是深度学习技术中最值得关注与深入...

2886
来自专栏机器学习算法与Python学习

Machine Learning -- Bayesian network

链接地址:http://www.dataguru.cn/thread-508373-1-1.html 0 引言 事实上,介绍贝叶斯定理、贝叶斯方法、贝叶斯推断的...

3586
来自专栏大数据文摘

暑期追剧学AI (三) | 10分钟搞定机器学习数学思维:向量和它的朋友们

1385
来自专栏机器之心

入门 | 从PCC到MIC,一文教你如何计算变量之间的相关性

选自FreeCoderCamp 作者:Peter Gleeson 机器之心编译 参与:陈韵竹、程耀彤、刘晓坤 本文介绍了几个重要的变量相关性的度量,包括皮尔逊相...

3856

扫描关注云+社区