大数据正当时,理解这几个术语很重要

目前,大数据的流行程度远超于我们的想象,无论是在云计算、物联网还是在人工智能领域都离不开大数据的支撑。那么大数据领域里有哪些基本概念或技术术语呢? 今天我们就来聊聊那些避不开的大数据技术术语,梳理并补充我们对大数据的理解。

01 离线计算 Vs 实时计算

离线计算

离线计算,通常也称为“批处理”,表示那些离线批量、延时较高的静态数据处理过程。

离线计算适用于实时性要求不高的场景,比如离线报表、数据分析等,延时一般在分钟级或小时级,多数场景是定时周期性执行一个Job任务,任务周期可以小到分钟级,比如每五分钟做一次统计分析,大到月级别、年级别,比如每月执行一次任务。我们最熟悉的MapReduce就是一个离线计算框架,Spark SQL也通常用于离线计算任务。

实时计算

实时计算,通常也称为“实时流计算”、“流式计算”,表示那些实时或者低延时的流数据处理过程。

实时计算通常应用在实时性要求高的场景,比如实时ETL、实时监控等,延时一般都在毫秒级甚至更低。目前比较流行的实时框架有Spark Streaming与Flink。其中,Spark Streaming属于微批处理,是一种把流当作一种批的设计思想,具有非常高的吞吐量但延时也较高,这使得Streaming的场景也得到了一定的限制;Flink则是事件驱动的流处理引擎,是一种把批当作一种有限的流的设计思想,具有高吞吐,低延时,高性能的特点,

02 实时查询 Vs 即席查询

实时查询

实时查询,通常也称为在线查询,是对不断变化的数据进行实时的查询,要求数据修改后能够快速被查询到。通常我们见到的实时查询多是API的方式,少数以SQL方式。在线查询场景中最常见的生态组件大概就是HBase了,HBase能够提供强一致性的低延时数据访问,非常适合一般的在线业务。

即席查询

即席查询,英文名称为Ad hoc query,起初是在数据仓库领域中用户根据特定需求定义的一种实时查询方式。通常情况下,即席查询的表现是借助于大数据SQL查询组件进行交互式查询,比如Hive、Impala、Presto等SQL查询组件。因此严格意义上说,即席查询和上述中的实时查询还是有一定区别的。

03 OLTP Vs OLAP

OLTP

OLTP(On-Line Transaction Processing),可称为在线事务处理,一般应用于在线业务交易系统,比如银行交易、订单交易等。OLTP的主要特点是能够支持频繁的在线操作(增删改),以及快速的访问查询。因为要用于在线交易,所以一般要求支持事务特性。

OLAP

OLAP(On-Line Analytical Processing),可称为在线分析处理,较多的应用在数据仓库领域,支持复杂查询的数据分析,侧重于为业务提供决策支持。目前常见是的实时OLAP场景,比如Druid(Apache Druid,不同于阿里Druid)、ClickHouse等存储组件能够较好的满足需求。

04 行式存储 Vs 列式存储

行式存储

行式存储(Row-based),简称“行存”,我们常见的关系型数据库比如MySQL、Oracle、DB2、SQL Server等都是采用行存的方式。总的来说,行存有利于写,但缺不利于读,因为行存是把同一条数据存放在相同位置,这样增删改比较高效,但是查询时会增加io的消耗。从上面举例我们也能看出,行存一般应用于OLTP场景。

列式存储

列式存储(Column-based),简称“列存”,这里是相对于行式存储的一种数据存储方式,一般应用于分布式存储/数据库中。总的来说,列存有利于读,但不利于写,这就意味着写路径上的增删改有一定的性能损耗。常见的列存包括Parquet、Arrow等,其最大特点是能够减少不必要的io消耗,主要表现在列裁剪与列压缩方面。与行存相反,列存更适应于OLAP场景。

(完)原创不易,帮转~

原文发布于微信公众号 - 大数据手稿笔记(gh_fe6a620edd40)

原文发表时间:2019-08-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券