文档建议反馈控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

通过扩展 Spark SQL ，打造自己的大数据分析引擎

Spark SQL 的 Catalyst ，这部分真的很有意思，值得去仔细研究一番，今天先来说说Spark的一些扩展机制吧，上一次写Spark，对其SQL的解析进行了一定的魔改，今天我们按套路来，使用砖厂为我们提供的机制...package wang.datahub.parser import org.apache.spark.sql.catalyst.analysis.UnresolvedStar import org.apache.spark.sql.catalyst.expressions.Expression...import org.apache.spark.sql.catalyst.parser.ParserInterface import org.apache.spark.sql.catalyst.plans.logical...扩展优化器 接下来，我们来扩展优化器，砖厂提供了很多默认的RBO，这里可以方便的构建我们自己的优化规则，本例中我们构建一套比较奇怪的规则，而且是完全不等价的，这里只是为了说明。...： package wang.datahub.optimizer import org.apache.spark.sql.SparkSession import org.apache.spark.sql.catalyst.expressions

1.3K20
您找到你想要的搜索结果了吗？
是的
没有找到

Spark SQL底层执行流程详解（好文收藏）

---- 本文目录 一、Apache Spark 二、Spark SQL发展历程 三、Spark SQL底层执行原理 四、Catalyst 的两大优化 传送门：Hive SQL底层执行过程详细剖析 一...、Apache Spark Apache Spark是用于大规模数据处理的统一分析引擎，基于内存计算，提高了在大数据环境下数据处理的实时性，同时保证了高容错性和高可伸缩性，允许用户将Spark部署在大量硬件之上...SQL到RDD中间经过了一个Catalyst，它就是Spark SQL的核心，是针对Spark SQL语句执行过程中的查询优化框架，基于Scala函数式编程结构。...Optimizer模块：该模块是Catalyst的核心，主要分为RBO和CBO两种优化策略，其中RBO是基于规则优化，CBO是基于代价优化。...Optimizer模块：优化过的逻辑计划 Optimizer优化模块是整个Catalyst的核心，上面提到优化器分为基于规则的优化（RBO）和基于代价优化（CBO）两种。

3.3K20

2021年大数据Spark（五十四）：扩展阅读  SparkSQL底层如何执行

在 SparkSQL 中, 开发者的代码即使不够优化, 也会被优化为相对较好的形式去执行 为什么 SparkSQL 提供了这种能力?...Hive 的问题, SparkSQL 使用了一个新的 SQL 优化器替代 Hive 中的优化器, 这个优化器就是 Catalyst, 整个 SparkSQL 的架构大致如下： 1.API 层简单的说就是...Spark 会通过一些 API 接受 SQL 语句 2.收到 SQL 语句以后, 将其交给 Catalyst, Catalyst 负责解析 SQL, 生成执行计划等 3.Catalyst 的输出应该是..., 随着 SparkSQL 的发展, 还会越来越多, 感兴趣的同学可以继续通过源码了解, 源码在 org.apache.spark.sql.catalyst.optimizer.Optimizer Step..., 而这种能力是由一个叫做 Catalyst 的优化器所提供的 Catalyst 的主要运作原理是分为三步, 先对 SQL 或者 Dataset 的代码解析, 生成逻辑计划, 后对逻辑计划进行优化, 再生成物理计划

51830

Shark，Spark SQL，Spark上的Hive以及Apache Spark上的SQL的未来

随着Spark SQL和Apache Spark effort（HIVE-7292）上新Hive的引入，我们被问到了很多关于我们在这两个项目中的地位以及它们与Shark的关系。...SQLon Spark的未来 Shark 当Shark项目在3年前开始时，Hive（在MapReduce上）是SQL on Hadoop的唯一选择。...许多人认为SQL的交互性需要（即EDW）构建的昂贵的专用运行时为其的查询处理。Shark成为Hadoop系统中第一个交互式SQL，是唯一一个基于一般运行时（Spark）构建的。...它表明，Hive缓慢的缺陷是根本的，一个通用引擎，如Spark可以结合两个世界的最好的引擎：它可以和EDW一样快，以及和Hive / MapReduce一样优秀。 你为什么要关心这个看似学术的辩论？...有了将在Apache Spark 1.1.0中引入的功能，Spark SQL在TPC-DS性能上击败Shark几乎一个数量级。

1.4K20

Pyspark学习笔记（六）DataFrame简介

Pyspark学习笔记（六） 文章目录 Pyspark学习笔记（六） 前言 DataFrame简介 一、什么是 DataFrame ？...主要参考文献： A Tale of Three Apache Spark APIs: RDDs vs DataFrames and Datasets RDDs vs....一、什么是 DataFrame ？   在Spark中, DataFrame 是组织成 命名列[named colums]的分布时数据集合。...DataFrame 首先在Spark 1.3 版中引入，以克服Spark RDD 的局限性。Spark DataFrames 是数据点的分布式集合,但在这里,数据被组织到命名列中。...开发人员需要自己编写优化的代码 使用catalyst optimizer进行优化 使用catalyst optimizer进行优化 图式投影 需要手动定义模式 将自动查找数据集的架构 还将使用SQL引擎自动查找数据集的架构

2K20

什么是 Apache Spark？大数据分析平台详解

即使 Apache Spark 的作业数据不能完全包含在内存中，它往往比 MapReduce 的速度快10倍左右。 第二个优势是对开发人员友好的 Spark API 。...使用名为 Catalyst 的查询优化器来检查数据和查询，以便为数据局部性和计算生成有效的查询计划，以便在集群中执行所需的计算。...在 Apache Spark 2.x 版本中，Spark SQL 的数据框架和数据集的接口(本质上是一个可以在编译时检查正确性的数据框架类型，并在运行时利用内存并和计算优化)是推荐的开发方式。...■Spark Streaming Spark Streaming 是 Apache Spark 的一个新增功能，它帮助在需要实时或接近实时处理的环境中获得牵引力。...■Apache Spark 的下一步是什么? 尽管结构化数据流为 Spark Streaming 提供了高级改进，但它目前依赖于处理数据流的相同微量批处理方案。

1.2K30

什么是 Apache Spark？大数据分析平台详解

即使 Apache Spark 的作业数据不能完全包含在内存中，它往往比 MapReduce 的速度快10倍左右。 第二个优势是对开发人员友好的 Spark API 。...使用名为 Catalyst 的查询优化器来检查数据和查询，以便为数据局部性和计算生成有效的查询计划，以便在集群中执行所需的计算。...在 Apache Spark 2.x 版本中，Spark SQL 的数据框架和数据集的接口(本质上是一个可以在编译时检查正确性的数据框架类型，并在运行时利用内存并和计算优化)是推荐的开发方式。...Spark Streaming Spark Streaming 是 Apache Spark 的一个新增功能，它帮助在需要实时或接近实时处理的环境中获得牵引力。...Apache Spark 的下一步是什么? 尽管结构化数据流为 Spark Streaming 提供了高级改进，但它目前依赖于处理数据流的相同微量批处理方案。

1.5K60

源码解析之Parser

我们写的sql语句只是一个字符串而已，首先需要将其通过词法解析和语法解析生成语法树，Spark1.x版本使用的是scala原生的parser语法解析器，从2.x后改用的是第三方语法解析工具ANTLR4，...antlr4的使用需要定义一个语法文件，sparksql的语法文件的路径在sql/catalyst/src/main/antlr4/org/apache/spark/sql/catalyst/parser...Listener模式是被动式遍历，antlr生成类ParseTreeListener，这个类里面包含了所有进入语法树中每个节点和退出每个节点时要进行的操作。...代码2中的sqlParser为 SparkSqlParser，其成员变量val astBuilder = new SparkSqlAstBuilder(conf)是将antlr语法结构转换为catalyst...，使用astBuilder转化为catalyst表达式，可以看到首先调用的是visitSingleStatement，singleStatement为语法文件中定义的最顶级节点，接下来就是利用antlr

2.3K31

Spark SQL 整体介绍

2、Bind过程，通过单词我们可看出，这个过程是一个绑定的过程。为什么需要绑定过程？这个问题需要我们从软件实现的角度去思考，如果让我们来实现这个sql查询引擎，我们应该怎么做？...他们采用的策略是首先把sql查询语句分割，分割不同的部分，再进行解析从而形成逻辑解析tree，然后需要知道我们需要取数据的数据表在哪里，需要哪些字段，执行什么逻辑，这些都保存在数据库的数据字典中，因此bind...Spark SQL核心—Catalyst查询编译器 Spark SQL的核心是一个叫做Catalyst的查询编译器，它将用户程序中的SQL/Dataset/DataFrame经过一系列操作，最终转化为Spark...此外，Spark SQL中还有一个基于成本的优化器（Cost-based Optmizer），是由DLI内部开发并贡献给开源社区的重要组件。该优化器可以基于数据分布情况，自动生成最优的计划。...参考: https://blog.51cto.com/9269309/1845525 *** 8. thriftserver 的优势 spark-shell、spark-sql 都是是一个独立的 spark

5610

简单回答：SparkSQL数据抽象和SparkSQL底层执行过程

DataFrame是什么 在Spark中，DataFrame是一种以RDD为基础的分布式数据集，类似于传统数据库中的二维表格。...而中间的DataFrame却提供了详细的结构信息，使得Spark SQL可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么。...1.API 层简单的说就是 Spark 会通过一些 API 接受 SQL 语句 2.收到 SQL 语句以后, 将其交给 Catalyst, Catalyst 负责解析 SQL, 生成执行计划等 3.Catalyst..., 随着 SparkSQL 的发展, 还会越来越多, 感兴趣的同学可以继续通过源码了解, 源码在 org.apache.spark.sql.catalyst.optimizer.Optimizer Step...Catalyst 的主要运作原理是分为三步, 先对 SQL 或者 Dataset 的代码解析, 生成逻辑计划, 后对逻辑计划进行优化, 再生成物理计划, 最后生成代码到集群中以 RDD 的形式运行。

1.8K30

org.apache.spark.sql.AnalysisException: Table or view not found: `traintext`.`train`; line 1 pos 14;

恭喜老铁，跟我遇到了一样的问题，接下来是解决方法： 遇到的问题： org.apache.spark.sql.AnalysisException: Table or view not found: `traintext...:67) at org.apache.spark.sql.catalyst.trees.TreeNode.foreachUp(TreeNode.scala:128) at org.apache.spark.sql.catalyst.trees.TreeNode...:67) at org.apache.spark.sql.catalyst.analysis.Analyzer.checkAnalysis(Analyzer.scala:57) at org.apache.spark.sql.execution.QueryExecution.assertAnalyzed...去集群服务器上：find -name hive-site.xml 找到之后拷贝到项目的资源文件下面就可以了，打包的时候在项目的根目录下，会自动加载jar根目录下的hive-site.xml 为什么要添加...:spark要查找hive中的数据，需要这个配置文件，里面是hive的一些信息。

5.7K00

在所有Spark模块中，我愿称SparkSQL为最强！

我们之前已经学习过了《我们在学习Spark的时候，到底在学习什么？》，这其中有一个关于SQL的重要模块：SparkSQL。...在实际的开发过程中，SQL化已经是数据领域的共识，大家疯狂的将大数据框架的易用性做到了最高，即使一个刚刚毕业的同学，只要有SQL基础就可以看懂甚至上手开发了。...而右侧的DataFrame却提供了详细的结构信息，使得Spark SQL可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么。 DataFrame多了数据的结构信息，即schema。...而SparkSQL的查询优化器是Catalyst，它负责处理查询语句的解析、绑定、优化和生成物理计划等过程，Catalyst是SparkSQL最核心的部分，其性能优劣将决定整体的性能。...spark.sql.optimizer.dynamicPartitionPruning.enabled 参数必须设置为 true。

1.6K20

什么是Apache Spark？这篇文章带你从零基础学起

导读：Apache Spark是一个强大的开源处理引擎，最初由Matei Zaharia开发，是他在加州大学伯克利分校的博士论文的一部分。Spark的第一个版本于2012年发布。...Apache Spark是快速、易于使用的框架，允许你解决各种复杂的数据问题，无论是半结构化、结构化、流式，或机器学习、数据科学。...作者：托马兹·卓巴斯（Tomasz Drabas），丹尼·李（Denny Lee） 如需转载请联系大数据（ID：hzdashuju） 01 什么是Apache Spark Apache Spark是一个开源的...Catalyst优化器 Spark SQL是Apache Spark最具技术性的组件之一，因为它支持SQL查询和DataFrame API。Spark SQL的核心是Catalyst优化器。...Dive into Spark SQL’s Catalyst Optimizer ： http://bit.ly/271I7Dk 和Apache Spark DataFrames: Simple and

1.3K60
点击加载更多

扫码

添加站长 进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

更多标签

活动推荐

    运营活动

    活动名称
    广告关闭

    腾讯云开发者

    扫码关注腾讯云开发者

    扫码关注腾讯云开发者

    领取腾讯云代金券

    热门产品

    热门推荐

    更多推荐

    Copyright © 2013 - 2024 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

    深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 深公网安备号 44030502008569

    腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287

    领券