首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
首页标签大数据处理套件 TBDS

#大数据处理套件 TBDS

安全、易用的一站式大数据处理平台

大数据平台:资源管理及存储优化技术

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

大数据平台的资源管理主要涉及存储资源和计算资源管理两部分,是大数据平台运维的重点关注对象。基于资源管理系统,大数据平台的开发运维人员能够清晰掌控平台的资源使用情...

410

Ambari:大数据集群管理

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Ambari是Hortonworks主导发行的开源管理平台,作为Apache顶级项目,Ambari也是最早且最成熟的大数据集群管理开源组件,可类比于Cloude...

6140

Presto CBO统计元数据

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Presto:2012年秋季Facebook内部开始研发,2013年正式对外开源。Presto是Facebook用于补充和替代Hive的产品,主要用于实时场景的...

18040

Spark CBO统计元数据

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Statistics 统计信息,参考:org.apache.spark.sql.catalyst.plans.logical.Statistics

18591

Hive CBO优化剖析

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Hive是较早的SQL on Hadoop系统,对大数据SQL执行有广泛和深远的影响。它最初由Facebook开发,后来成为Apache软件基金会的一个开源项目...

23460

Calcite系列(十二):可插拔性&JDBC驱动

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

为了实现动态数据源管理框架的目标,Calcite提供了丰富的可插拔能力和扩展性。用户可以根据使用场景进行自定义扩展。相关可插拔扩展的组件包括:

11730

Calcite系列(十一):物化视图

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

物化视图(Materialized View):是一种特殊的物理表,本质是预计算,是多个计算过程之间的联系建立。从数据组织层面优化数据访问效率,即把某些耗时的操...

28390

Calcite系列(十):执行流程-计划树执行

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

计划树执行是SQL处理的第五步,也称为Implementor执行实现。Calcite主要提供两种Implementor实现方式:RelImplemntor 和 ...

15470

Calcite系列(九):执行流程-优化器优化

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

优化器优化是SQL处理的第四步,也是最核心的一步,优化器优化本质是基于优化规则实现关系代数等价转换。

25660

Calcite系列(八):执行流程-计划树构建

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

计划树构建是SQL处理的第三步,构建出可关系代数优化的逻辑计划树RelNode,是优化器执行优化的前提。

19260

Calcite系列(七):执行流程-合法性校验

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

合法性校验是SQL处理的第二步,在计算执行前,提前验证SQL正确性。该验证操作是非线性的,需要基于语法树处理各种嵌套的复杂情况。Calcite合法性校验基于Sq...

13730

Calcite系列(六):执行流程-语法解析

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

目前广泛使用的语法解析框架主要包括ANTLR、JavaCC和Yacc等。在大数据领域中,很多计算引擎都是基于ANTLR进行语法解析,例如 Hive、Spark和...

29770

Calcite系列(五):执行流程-概览

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

SQL执行流程有一套通用的步骤,尽管具体的实现可能会因数据库系统的不同而有所差异,但流程相对固定。以下是通用的SQL处理流程:

20260

Calcite系列(四):核心概念-Adapter

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Calcite作为SQL中间件,为提供扩展性并适配不同数据源,提供了Adapter(适配器)方式对接数据源并根据数据源特性进行查询优化。

21750

Calcite系列(三):核心概念-Convention

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Convention:Calcite设计的核心概念,代表一类特定的数据源或执行引擎,基于Convention可生成与具体数据源或者引擎相关的执行计划。Calci...

18240

Calcite系列(二):核心概念-关系代数

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

关系模型是一种用于数据库管理的理论框架,其基础建立在数学的集合论之上。该模型由Edgar F. Codd 于1970年提出,旨在以一种严格且理论化的方式来描述数...

24870

Calcite系列(一):背景介绍

Yiwenwu

腾讯 · 后台开发工程师 (已认证)

Apache Calcite是一款开源的动态数据管理框架,提供了标准的 SQL 语言、查询优化和连接各种数据源的能力,但不包括数据存储、处理数据的算法和存储元数...

28991

知识图谱中的数据服务是什么?

用户10685580

随着信息时代的飞速发展,数据已经成为了各行各业的重要资源。知识图谱作为大数据时代的一种新型数据组织形式,能够将分散、无序的数据进行结构化处理,并建立起相互之间的...

10410

全球 30 米不透水表面动态数据集 (GISD30)

此星光明

全球 30 米不透水表面动态数据集 (GISD30) 为了解 1985 年至 2020 年全球不断变化的不透水表面景观提供了宝贵的资源。该数据集在城市可持续发展...

11310
领券