首页
学习
活动
专区
工具
TVP
发布

3步让你教你认识大数据

大数据观察

了解大数据,关注大数据观察吧!

每个想了解最新大数据资讯的人,都关注了我

文 / 数据君

“大数据”这个概念是近几年开始火起来的,现在可谓是无处不在了。在了解什么是大数据之前,我们先了解一下什么是传统数据?

第一步:什么是大数据

传统数据就是IT业务系统里面的数据,如客户资料、财务数据等。这些数据是结构化的,量也不是特别大,一般只是TB级。对比传统数据,还有一种叫“新数据”,是来源于社区网络、互联网等渠道,包括文本、图片、音频、视频等非结构化的数据。目前全世界75%以上都是非结构化数据,而且还一直呈现爆炸性的增长。我们看看下面的图就更好理解了:

大数据就是:结构化的传统数据+非结构化的新数据。

因而,大数据还具有以下特点,简称“4V”:

Volume(大量):数据体量巨大,从TB级别,跃升到PB级别;

Variety(多样):数据类型繁多,有网络日志、视频、图片、地理位置信息等;

Velocity(高速):处理速度快,可从各种类型的数据中快速获得高价值的信息,这一点也是和传统的数据挖掘技术有着本质的不同;

Value(价值):只要合理利用数据并对其进行正确、准确的分析,将会带来很高的价值回报。

第二步:大数据组成

大数据系统由基础设施、平台和应用组成。对比我们平时使用的电脑,基础设施就是电脑这台硬件,平台就是装在里面的操作系统,应用就是操作系统上面的各种应用程序。

大数据的应用五花八门,但总体上可分为“业务应用”和“数据分析”两大类。

前者包括ERP、CRM等业务系统,后者指的是各种分析应用,包括经营分析、价值分析、人流分析等等。分析系统从业务系统获取源数据,经过分析后可以反哺业务系统,对其进行赋能(注智),让其具有智慧。说到这里,大家是不是觉得有点熟悉了?跟我们的BI是不是有某些联系呢?没错了,“大数据平台”和“数据分析系统”加在一起就是BI的升级版啊!既然是升级版,它与传统BI有什么区别呢?请看下面就知道啦。

成本更低廉

去IOE,硬件采用廉价的X86,软件更多使用开源,节省成本

容灾性好

平台部署在X86集群上,机器出问题可随时切换

扩展性好

X86集群可根据需要随时进行扩展,提高灵活性

处理效率高

当数据达到TB级别,处理效率显著提高

处理类型多

可以处理结构化、半结构化、非结构化数据

进一步挖掘价值

处理的数据量大,类型多,因而可进一步挖掘数据的价值。

是不是有很多升级的地方呢?为了支持这些升级,大数据系统需要具备哪些功能呢?这就涉及到架构问题了,跟着小麦继续往下看吧。

第三步:大数据架构

我们已经知道大数据系统由基础设施、平台和应用组成,我们现在进一步细分,请看下图:

基础设施由通过局域网或互联网连接的X86集群组成,为大数据平台提供最基本的硬件支持。

大数据平台由基础架构、数据处理和数据服务三部分组成:

基础架构负责对基础设施进行系统管理,为数据处理提供分布式底层服务;数据处理负责数据的采集、存储、计算;数据服务负责将处理后的数据提供给上层应用使用。大数据应用是面向用户的各种应用系统,包括业务应用和数据分析。大数据系统的总体架构就是这样子,是不是跟我们平时见到的BI架构很像呢? 通过这个表格对比我们就更清楚了:

下面我们将围绕这个架构展开说明。理解了这个架构,小麦的目的也就达到啦。

主题 |大数据认知

插图 | 网络来源

作 者 介 绍

数据君:)

了解大数据,关注大数据观察

部分图文来自网络,侵权则删

我想给你一个理由 继续面对这操蛋的生活

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181229B139DG00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券