大数据“近因偏差”的烦恼

全世界90%的数据都是最近几年生成的,人们对这个结论可能已经耳熟能详。尽管我能找到的这个说法的最早出处是在2013年5月,但是,这种趋势却始终未曾发生变化。事实上,过去30年间,每隔两年,全球总数据量就会增长大约10倍——这让计算机行业的摩尔定律相形见绌。

信息爆炸所带来的问题之一在于,即便和不久之前相比,当前的信息量规模都会大到不可思议的程度。假如有一本信息影集代表了你从婴儿到成年的前18年人生,并且照片数量的增长速度和全球数据量保持一致,如果头两年你只有两张照片,那么从6岁到8岁的两年间你就会有两千张照片,从10岁到12岁有20万张,从16岁到18岁则有惊人的2亿张,这意味着在16-18岁期间你每秒钟就会拍3张照片。

当你回过头去以更长远的眼光来看待事物时,你会发现,你有太多太多近期的的事件,而较早的数据和事件是那么的稀少。

当然,全球数据不能这样简单类比。全球数据增长的主要原因在于更多的人口产生了更多信息源,以及更大的和更复杂详细的信息结构。然而,如果试图回顾或分析与上文所述影集类似的历史记录,你会发现一个相同点,越遥远的历史所留下的信息和记录就会越稀少。怎么会发生这种事情呢?

这就是目前大数据采集分析中存在的一项弊端。无论你在哪一个时间点开始回顾历史,都会遇到同一个麻烦:近期数据的数量远远超过远期历史数据,由此,这个分析系统会过度重视短期趋势而忽略长期趋势,从而受到短视的困扰。

Image copyrightGETTYImage caption大数据分析存在的问题之一在于,即便和不久之前相比,当前的信息量规模都会大到不可思议的程度。(图片来源: Getty)

为了理解这个问题的重要性,需要考虑社会科学中有关“近因偏差”(recency bias,又称近因效应)的研究发现。近因偏差是指:人们在判断事物发展趋势时,会认为未来事件将会和近期体验高度类似。这可以说是某种“可利用性法则”(availability heuristic)——不恰当地以最容易认知的信息来作为思考的基础。这还是一种普遍的心理学特征。

举例来说,如果在你居住的地方,过去几年的夏季气温都很低,那么你可能会认为夏季气候正在变得更冷——或者说你当地的气候正在变冷。但是,你不应该只根据少量数据分析长期趋势。你需要有一个长远视角,才能认识真正有意义的气候趋势。短时期内,最好不进行任何猜测。不过,我们之中又有谁能真正做到这点呢?

短期分析不仅不扎实、毫无益处,还会产生误导

现实生活中大部分复杂事物的现象正是如此:股票市场、经济发展、企业的成功与失败、战争与和平、国家关系、帝国的崛起和衰落等等。短期分析不仅不扎实、毫无益处,还会产生误导。回头看看,就在2009年全球金融危机袭来的时候,还有那么多经济学家信誓旦旦地宣称这一事件不会发生。认为根据那种短期时间尺度的数据就能做出扎实的预测,这种想法本身就有很大的问题。

我们还应当记住,在决定哪些数据该保存还是删除的时候,新颖性往往会成为主要的考虑因素。旧的淘汰,新的进来,在这个搜索算法本质上偏向于新鲜事物的数字世界中,这是一个明显的趋势。从最高法院的裁决,到所有社交媒体服务平台,我们到处都可以看到已经失效的网址。我们身边的几乎所有技术都偏向于当前信息,人也一样:大多数人已经习惯用个四五年就把原本光鲜亮丽的设备丢掉。

怎么办?这个问题已经不仅仅在于如何更好保存旧数据的范畴——尽管这并不是个坏主意,想想我们现在还有什么东西能流行保留10年之久。更重要的是,这个问题关系到确定哪些东西值得优先保存,以及如何在知识的名义下,选择哪些信息最有意义

Image copyrightGETTYImage caption我们需要更明智地决定首先保存哪些数据。(图片来源: Getty Images)

或许我们需要的是我所称之为的“智能性遗忘”:应该让我们的工具更多地放弃最近的信息,从而在长远视角上保持更高水平的连续性。这有点像是以数学方法重新整理一本影集。什么时候两百万张照片的价值比两千张照片更低?什么时候较大的样本量覆盖范围反而较小?哪些问题的重要性较低?哪个细节水平能提供有用的质疑证据,而不是虚假的信心?

许多数据集是无法缩减的,只有在完整的情况下才最宝贵,比如,基因序列、人口统计学数据、地理和物理学的原始观测数据等等。数据的科学性越弱,数据规模与数据的质量就越可能呈现负相关,此时时间本身就成为更加重要的过滤工具。我们如果不仔细选择过去保存下来的有价值、有意义的事物,它们就会被迅速膨胀的信息洪流悄无声息地吞没掉。

能否考察长期历史遗留下来的数据取决于考察者是否有足够的时间和注意力。今天的企业、个人和政府机构都能够获得比以往(甚至就在几年前)大许多数量级的数据,但是董事会成员、首席执行官、政府官员等决策者却没有足够时间和注意力来应对这些数据。

今天的决策者们有越来越高效的工具帮助他们就所持有的数据提出问题——但你只应该分析有意义的数据。单纯的数量累积不是一个好的对策。在一个数据量越来越大的时代,如何选择主动放弃哪些事情,与选择做什么事情一样重要。

本文来自企鹅号 - 涨知识学院媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

Science特刊:直击当下神经学的三个大坑,百年来研究都做错了?

作者:冷月如霜 编辑:明天 每年,数以万计的神经科学家都会齐聚一堂,分享一年来辛勤耕耘的成果。每年,我们也会满载着灵感回到实验室,开启新一年的项目。 然而,在解...

1625
来自专栏VRPinea

借助VR成像,科学家将进一步研究乳腺癌细胞

2549
来自专栏人工智能快报

麻省理工提出快速设计与制造机器人的新方法

尽管机器人在世界各地变得越来越常见,但要制造它们仍然很难。从设计建模到制造测试,整个过程缓慢且昂贵:即使是一个小的改动也可能意味着需要几天或几周的时间来重新思考...

2986
来自专栏新智元

两个Bot自创新语言!Facebook机器人纽约自由行导航定位碾压人类

【新智元导读】在FAIR和蒙特利尔大学合作的最新研究中,研究人员首次将实验中将感知、行动和使用自然语言交互达成目标这三个任务结合在一起:让两个Bot使用自然语言...

470
来自专栏量子位

李飞飞:我的2017

李林 编译整理 量子位 出品 | 公众号 QbitAI ? 李飞飞今天连发了八条Twitter~ 在这八条推文中,李飞飞总结了即将过去的一年。对于这位女神级的A...

3554
来自专栏企鹅号快讯

“熊医生”出诊正确率超九成 医院:人工智能更多是辅助

“熊医生”出诊 正确率超九成 广州日报讯(广州日报全媒体记者伍仞 通讯员易灵敏、陈昊)一年前,在信息化建设走在全国前列的广州市妇女儿童医疗中心,开始将大数据和人...

1866
来自专栏企鹅号快讯

人工智能的界定

在2017年,“人工智能”这个词得到了公众前所未有的关注,究其原因我认为与两方面有关,一方面人工智能学术领域自身产生了一些进步,另一方面则更多与媒体和业界噱头式...

1807
来自专栏企鹅号快讯

如果人工翻译一定会被机器翻译替代,翻译专业的学生现在应该怎么办?

目录 1. 什么叫“替代” 2. 用翻译专业的差异化优势给自己赋能 3. 未来的译者 4. 结语 1 什么叫“替代”? “替代”不是说将翻译职业彻底消灭,而是在...

2088
来自专栏大数据文摘

业界 | AI AI告诉我,谁是犯罪的那一个?

1423
来自专栏大数据文摘

病例之外:信息可视化对于提高个人及公共健康的贡献

1112

扫码关注云+社区