前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >面试篇: SparkSql如何把Sql转化成RDD可以执行的任务

面试篇: SparkSql如何把Sql转化成RDD可以执行的任务

作者头像
伊泽瑞尔
发布2022-06-01 08:44:31
1.3K0
发布2022-06-01 08:44:31
举报

一、SparkSQL底层执行流程图

二、具体流程

1.SparkSql通过Parser(解析器)把Sql转化成UnResolved Logical Plan(这是一棵Parsed Logical Plan AST语法树)。

2.SparkSql通过Analyzer(分析器)借助Catalog中的元数据(Schema) 把UnResolved Logical Plan转化成Resolved Logical Plan(这是一棵Analyzer Logical Plan AST语法树)。

3.SparkSql通过Optimizer(优化器)将执行计划转化为Optimized Logical Plan。

4.SparkSql通过SparkPlan将执行计划转化为Physical Plan。

总结:SparkSql -> Parsed Logical Plan AST语法树 -> Analyzer Logical Plan AST语法树 -> Optimized Logical Plan -> Physical Plan。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-05-04,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 大数据与知识图谱 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
数据库
云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档