写在前面:此笔记是PPV课学员张梦根据李玉玺老师在CDA LEVEL II 数据建模师培训的上课内容整理而成的。
———————————–作者说明—————————————
CDA level 2 前4天笔记。
重点在操作和老师口述的无关内容。由于开始没安装成功EM,所以没有截图。
有讲义的笔记都记录在讲义上。复习参考讲义。
2015/9/20
————————————老师简介—————————————
李御玺
国立中国台湾大学咨询工程博士
铭传大学咨询工程学系教授(2000~)
CDA协会高级会员=数据分析专家
铭传大学大数据研究中心主任
中华资料采矿协会理事
中国人民大学数据挖掘中心顾问
厦门大学数据挖掘中心顾问
SPSS、SAS、微软(Reporting service power view power map)
专长:数据挖掘、文本挖掘
MY DATA MINING IN TAIWAN
台新银行案例
2004年营销案:提案:139件;成案:103件;效益:10亿
中华航空公司案例
常旅客分群模型建置;高仓促销模型:怎么能让高舱等多人坐;华航精致旅游促销模型
中国东方航空公司
会员贡献度分析;会员乘机率分析;会员流失及挽留分析
特立和乐HOLA公司
客户贡献度分析;型录效益分析;客户流失及挽留
中国工商局
企业注销吊销模型;PEVC投资价值评估模型;12315消费者投诉与维权预防的模型
-中国台湾有联合征信中心,受到启发。为企业建立信用等级。
泥石流预测结合GIS系统
————————-以下为正文—————————–
建议不要更改安装路径。建议使用英文版。分配内存会影响最大读入数据量。
win8找不到延长使用的目录。–不但要显示文,还是设置
更改EM语言:
建立一个专门存放SAS PROJECT的目录。
尝试修改时间;尝试以管理员身份运行
4.描述性统计画图(数值型用直方图/NOMINAL用distribution分布图)看
说明这个字段OK,有趋势性
新建PROJECT
新建LIBRARY
查看lib
数据导入-数据源
基本跟modeler的判断依据类似。
类别型超过8个就不好,所以就自己去想办法group
如果想导入CSV,用EG去转。
新建流程图
使用DMDB数据探索可以看到SPSS STAT才能看到的东西看DMDB result
skewness》0 右偏图在左边
Class variable
GRAPH EXPLORE
StatExplore chi-square Plot 卡方检定 Cramer’s V
worth 类别卡方数值方差 P log取-则越大越好,排序
使用帮助文档:
Association Rules关联规则
Cluster Analysis 聚类分析
Sequential Patterns序列型样
2.1 CLASSIFICATION 分类 ->预测数据所属的类别
Bayes Net 贝叶斯网络
Decision Tree 决策树
Neural Network 神经网络
Logistic Regression 逻辑回归
2.2 PREDICTION 预测
Decision Tree 决策树
Neural Network 神经网络
Linear Regression 线性回归
Time Series时间序列(听说LEVEL I 会讲)
1.1 CLUSTER ANALYSISI 聚类分析
1.2 Market BASKET ANALYSIS:
Association Rules关联规则
Sequential Patterns序列型样
绩效的增益
Accuracy
Gain Chart
Lift Chart :Gain Chart 中计算Lift=比随机乱猜命中增加的倍数
坐标轴 DEPTH VS LIFT
Profit Chart: 转化成Profit给领导展示<- 成本矩阵
www.kdnuggets.com
有别人发布的软件算法;
www.kaggle.com
比赛:老师曾参与Acquire valued shoppers challenge 有30万客户,3亿5千万数据。用JAVA写处理数据的程序,然后30万的数据用modeler处理就很容易。如果仅用modeler则每次处理输入读入时间25分钟。老师用的是本地电脑,不是服务器。服务器肯定会快一点。
以面积为评判标准。(GAIN CHART)
华硕库存预测,以绝对误差为评判依据。
有些公司会去找题目,看看是不是试用自己的公司->培养找题目的能力也很重要。
下一节:CDA LEVEL II 数据建模师培训学习笔记(二)数据前处理
————————————小节分割线————————————
在建模分析师中,数据挖掘(Data Mining)技术无疑是他们最强有力的核心竞争力。数据挖掘强调与现有信息系统的整合,以提供决策者做决策时所需的情报,或转化成经营智慧,以作为调整营运策略方针的辅助工具。以顾客关系管理(CRM)为例,数据挖掘是整个顾客关系管理的核心。其不但可以准确的定位目标市场,进行精准营销,还可以帮助业务人员了解客户深层需求,针对大量客户进行客制化,也就是所谓的一对一营销。本课程的目的就是要针对数据挖掘整套流程,根据CDA Level Ⅱ大纲标准,以金融、电信、电商和零售业为案例背景,结合SAS Enterprise Miner和SPSS Moderler深入讲授数据挖掘的主要算法。并将SAS语言和SQL进行有效的结合,讲授如何在实际工作中搭建数据挖掘环境,制定分类数据挖掘的标准流程,让学员胜任全方位的数据挖掘运用场景。
PPV课原创文章,转载请注明作者和原文链接!