数据分析最容易犯的7个错误,请绕行!

要实现大数据分析项目的最佳实践并非易事。正因如此,Gartner研究总监Svetlana Sicular题为“大数据7大失败案例”的报告吸引了思科工程师Karen Liu的注意。

“我们正处于开始阶段,想了解下其他人正在做什么,有哪些成功案例。”Liu说:“而所有的失败案例,也是我们必须学习并加以警惕的。”

很多人有着和Liu一样的想法。Family Dollar Stores Inc.(美国知名折扣零售商,总部位于北卡罗来纳的夏洛特,最近刚被另一家折扣连锁店Dollar Tree Inc.收购)的企业架构总监David Kropman也基于同样原因参加了这次会议。“我们刚开始大数据的探索,想了解正确的应用场景,同时防止自己重蹈其他公司的覆辙。”Kropman表示。

Sicular的报告给出了足够明晰的信息,可以让Kropman和Liu回去分享给各自的团队,避免犯同样的错误。Kropman说:“大数据项目的失败不单单是因为某个原因,而是由多个因素一起导致的。”

对于大数据项目的失败,Sicular总结出7个主要原因,并划分为三个大类:战略、技能和分析。

战略方面的失败

1.组织惰性。

某家旅游公司系统通过web日志数据的挖掘来提升客户洞察。结果证明,用户在浏览网站之后,随后的消费行为模式与管理层所认为的不一致。当团队汇报此事时,管理层认为不值一提。但是,该团队并没有放弃,并通过严密的A/B测试,回击了管理层的轻视。

这个案例的最终结果,不是每个CIO都能期盼的。但是,有一点是可以确定的:做好和管理层打交道的准备,让他们充分理解大数据是什么以及相应的价值。要说对CIO们有什么建议的话,Sicular认为,不要在失败的项目上过多纠缠,重新启动一个新的。

2.选择了错误的应用场景。

一家保险公司想了解日常习惯和购买生命保险意愿之间的关联性。由于随后觉得习惯太过于宽泛,该公司将调查范畴限定到是否吸烟上。但是,工作仍然没有实质进展。“不到半年,他们就终止了整个项目,因为一直未能发现任何有价值的信息。”Sicular说。

这个项目的失败是由于问题的复杂性。在抽烟与否之间,该公司没有注意到还有大片灰色地带:很多人是先抽烟而后又戒烟了。在将问题简单化动机的驱动下,这个部分被忽略了。“他们不是医疗健康方面的专家。”Sicular分析到。为此,她提醒听众要对应用案例排定优先级,先易后难,循序渐进。

技术层面的失败

3.无法应对料想之外的问题。

一家全球性公司的大数据团队发现了很多深刻的洞察,并且计划通过云让全公司共享。“为此,他们启动了一个云中的项目。”Sicular说。

Sicular认为,这样做是有风险的 – 一个在受控的定制环境中获得成功的项目,未必能适应于生产环境中。“这个团队低估了效率方面的损耗。由于网络拥塞的问题,无法满足全球各个分支顺畅提交数据运行分析的需求。”Sicular分析说。

该公司应该仔细思考下如何支撑大数据项目,梳理所需的技能并协调各IT分支的力量进行支持。“由于网络、安全或基础设施的问题,已经有太多的大数据项目栽了跟头。你必须事先想清楚,需要哪些方面的人手加入到项目中来。”Sicular表示。

4.缺乏大数据分析技能。

一家零售公司的首席执行官不认同亚马逊规模化、扁平化的服务模式,因此让CIO构建一个客户推荐引擎。项目最初的规划是半年为期,但是团队很快认识到诸如协同过滤(collaborative filtering)之类的概念无法实现。为此,一个团队成员提出做一个“假的推荐引擎”,把床单作为唯一的推荐产品。

这个假引擎的工作逻辑是:买搅拌机的人会买床单,买野营书籍的人会买床单,买书的人会买床单。就是如此,床单是唯一的、默认的推荐品。

尽管可笑,这个主意其实并不坏,默认的推荐也能给企业带来销售上的提升。但是,由于大数据相关技能的缺失,真正意义上的引擎未能实现。Sicular表示,这是需要很长时间探索和积累的。尽管过程曲折而漫长,不过不用担心,大数据的推进是有明确阶段划分的,对CIO们来说可以有针对性地加以应对。这些阶段包括:

管理高层表示支持大数据战略规划形成进行各种测试和验证流程上线并不断完善(Sicular称之为战术阶段)投资回报开始显现,企业真正体会到大数据的价值(Sicular称之为战略阶段)技术领先的企业开始构建真正的数据产品(Sicular称之为转型阶段)

数据分析本身的失败

5.对数据过于相信。

2008年,Google第一次开始预测流感就取得了很好的效果,比美国疾病预防控制中心(Centers for Disease Control and Prevention)提前两礼拜预测到了流感的爆发。但是,几年之后,Google的预测比实际情况(由防控中心根据全美就诊数据推算得出)高出了50%。“媒体过于渲染了Google的成功,出于好奇目的而搜索相关关键词的人越来越多,从而导致了数据的扭曲。”Sicular说。

因此,CIO在拿到数据之后,应该从不同角度进行加以审视,确保对数据的来源、验证方法、控制手段以及是否有脏数据等问题都能胸有成竹。

6.提出了错误的问题。

一家全球领先的汽车制造商决定开展一个情感分析项目,为期6个月,耗资1千万美元。项目结束之后,该厂商将结果分享给经销商并试图改变销售模式。然后,所得出的结果最终被证明是错误的。

“项目团队没有花足够的时间去了解经销商所面临的问题或业务建议,从而导致相关的分析毫无价值。”Sicular说。

对此,Sicular提到了决策分析中的“满意度(satisficing)”模型 – 即放弃对最优结果的偏执,基于具体的情境,找到足够好的解决方案。“耐下性子,去真正理解问题以及企业可能从中获得的收益。”Sicular解释说。

7.应用了错误的模型。

为了寻找可供借鉴的案例,一位在银行工作的博士研究了其他行业的大数据成功应用。最终,他的目光落在了电信行业的客户流失预测模型上。

该银行从电信业聘请了一位专家,后者也很快构建了评估用户是否即将流失的模型。Sicular表示,当时已进入评测验证的最后阶段,模型很快就将上线,而银行也开始准备给那些被认为即将流失的客户发出信件加以挽留。但是,为了保险起见,一位内部专家被要求对模型进行评估。

这位银行业专家很快发现了令人惊奇的事情:不错,那些客户的确即将流失,但并不是因为对银行的服务不满意。他们之所以转移财产(有时是悄无声息的),是因为感情问题 – 正在为离婚做准备。

了解模型的适用性、数据抽象的级别以及模型中隐含的细微差别,这些都是非常具有挑战性的。“这是大数据分析的关键之一。”Sicular表示。为了大数据项目的成功,CIO还必须从道德、伦理和心理的角度进行思考。

原文发布于微信公众号 - CDA数据分析师(cdacdacda)

原文发表时间:2015-09-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

地图搜索预测人流动向,政府监管与公民隐私如何兼顾?

1604
来自专栏大数据文摘

互联网教父凯文·凯利:大数据时代没有旁观者

1763
来自专栏数据的力量

不管你从事什么行业,未来都是数据的生意

1563
来自专栏大数据文摘

凯文·凯利:个人数据才是大未来

1887
来自专栏上善若水

全球最值得关注的100家人工智能公司都在这里了

CB Insights的评选结果基于这些公司所提交的数据、对一系列问题的回答、以及企业的Mosaic分数。Mosaic是一种获得了美国国家科学基金会资助的算法,...

1.3K5
来自专栏新智元

【论文】UC 伯克利教授:如何获得 AI 好处,不闯大祸?

如果自动驾驶汽车的上路,将美国每年大约40000例致死交通事故减少到一半,那么汽车厂商们可能不但不会收到20000封感谢信,反而会收到20000张法院传...

39812
来自专栏安恒信息

网信办出手整改短视频:“算法推荐”算对了吗?

近日,某网络直播短视频平台由于传播涉未成年人低俗不良信息,破坏网络生态,严重影响青少年身心健康,被国家网信办会同广电总局、文化和旅游部、属地网信办约谈,对其提出...

1151
来自专栏华章科技

凯文·凯利:大数据时代没有旁观者

日前,互联网教父、科技商业预言家的凯文·凯利在斯坦福大学进行长达3小时的分享,畅谈他对未来20年重大科技商业潮流的见解。以下为演讲内容整理干货。

842
来自专栏大数据文摘

【译】云端机器人:与Ken Goldberg 的对话

1684
来自专栏罗超频道

当我们谈论内容时,我们在谈什么?

作为数字音乐界『双App』之一的虾米音乐迎来了一个爆款内容:《我的少女时代》主题曲《小幸运》在虾米音乐播放量超过三千万,这首由田馥甄演唱的歌,在数字音乐平台的表...

3215

扫码关注云+社区

领取腾讯云代金券