首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

大数据究竟是怎么出现的,又代表着什么意思呢?

你可能有注意到,大数据在我们的生活里已经掀起滔天巨浪,继云端运算之后,俨然成为学术界跟科技业中最热门的潮字,似乎每家公司都在进行有关的研究,三句不离大数据。究竟大数据是怎么出现,又代表着什么意思呢?

大数据(Big Data),巨量资料爆炸的时代

大数据(Big Data)—— 或称巨量资料,顾名思义,是指大量的资讯,当资料量庞大到资料库系统无法在合理时间内进行储存、运算、处理,分析成能解读的资讯时,就称为大数据。

“Big data is data that exceeds the processing capacity of conventional database systems.”

这些巨量资料中有着珍贵的讯息,像是关联性(Unknown Correlation)、未显露的模式(Hidden Patterns)、市场趋势(Market Trend),可能埋藏着前所未有的知识跟应用等着被我们挖掘发现;但由于资料量太庞大,流动速度太快,现今科技无法处理分析,促使我们不断研发出新一代的资料储存设备及科技,希望从大数据中萃取出那些有价值的资讯。

「Big Data」这个词最早由 IBM 提出,2010 年才真正开始受到注目,并成为专业用语登上维基百科1,算是「大数据」的正式问世。而在 2012 年时,《纽约时报》的专栏文章「The Age of Big Data2」更是宣告了「大数据时代」的来临。值得一提的是,大数据并不是什么新兴的概念,事实上,欧洲粒子物理研究中心 (CERN)的科学家已经面对巨量资料的问题好几十年了,处理着每秒上看 PB (Peta Bytes,注:PB = 1,024 TB)的资料量3。

TED-Ed 的影片讲解 Big Data 概念,简单又好懂:

一般来说,大数据涵盖的范围很广,定义也各家歧异,2012 年 Gartner 公司的分析师 Douglas Laney 给予大数据一个全新定义:「大数据是大量、高速、及/或类型多变的资讯资产,它需要全新的处理方式,去促成更强的决策能力、洞察力与最佳化处理。」

于是大部份机构跟公司都将大数据的特性归类为「3Vs」或「4Vs」–– 资料量 Volume、资料传输速度 Velocity、资料类型(Variety),以及后来提出的第四个 V —— 真实性 Veracity。以下整理了 4Vs 简单的定义跟解释,可以从这四点切入认识大数据。

Volume 资料量

以前人们「手动」在表格中记录、累积出数据;现在数据是由机器、网路、人与人之间的社群互动来生成。你现在正在点击的滑鼠、来电、简讯、网路搜寻、线上交易… 都正在生成累积成庞大的数据,因此资料量很容易就能达到数 TB(Tera Bytes,兆位元组),甚至上看 PB(Peta Bytes,千兆位元组)或 EB(Exabytes,百万兆位元组)的等级。

Velocity 资料输入输出速度

资料的传输流动(data streaming)是连续且快速的,随着越来越多的机器、网路使用者,社群网站、搜寻结果每秒都在成长,每天都在输出更多的内容。公司跟机构要处理庞大的资讯大潮向他们袭来,而回应、反应这些资料的速度也成为他们最大的挑战,许多资料要能即时得到结果才能发挥最大的价值,因此也有人会将 Velocity 认为是「时效性」。

Variety 资料类型

大数据的来源种类包罗万象,十分多样化,如果一定要把资料分类的话,最简单的方法是分两类,结构化与非结构化。早期的非结构化资料主要是文字,随着网路的发展,又扩展到电子邮件、网页、社交媒体、视讯,音乐、图片等等,这些非结构化的资料造成储存(storage)、探勘(mining)、分析(analyzing)上的困难。

Veracity 真实性

这个词由在 Express Scripts 担任首席数据官(Chief Data Officer, CDO)的 Inderpal Bhandar 在波士顿大数据创新高峰会(Big Data Innovation Summit)的演讲中提出,认为大数据分析中应该加入这点做考虑,分析并过滤资料有偏差、伪造、异常的部分,防止这些「dirty data」损害到资料系统的完整跟正确性,进而影响决策。

大数据特性,谨记四字箴言:「大、快、杂、疑」

大数据资料量庞「大」(Volume)、变化飞「快」(Velocity),种类繁「杂」(Variety),以及真伪存「疑」(Veracity)。尤其在这资讯大爆炸时代,这些资料变得又多、又快、又杂、又真伪难分。

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180102B06UCS00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券