LV1

Jason Guo

暂未填写个人简介
  • 上海
  • 大数据
展开详细资料

专栏

文章

来自专栏大数据架构

超大规模 Spark 集群灰度发布 CI CD

目前主流的代码管理工具有,Github、Gitlab等。本文所介绍的内容中,所有代码均托管于私有的 Gitlab 中。

2353
来自专栏大数据架构

Adaptive Execution 让 Spark SQL 更高效更智能

前面《Spark SQL / Catalyst 内部原理 与 RBO》与《Spark SQL 性能优化再进一步 CBO 基于代价的优化》介绍的优化,从查询本身与...

1171
来自专栏大数据架构

Spark SQL / Catalyst 内部原理 与 RBO

从上图可见,无论是直接使用 SQL 语句还是使用 DataFrame,都会经过如下步骤转换成 DAG 对 RDD 的操作

992
来自专栏大数据架构

Spark CommitCoordinator 保证数据一致性

本文通过 Local mode 执行如下 Spark 程序详解 commit 原理

1533
来自专栏大数据架构

Spark SQL 性能优化再进一步 CBO 基于代价的优化

上文Spark SQL 内部原理中介绍的 Optimizer 属于 RBO,实现简单有效。它属于 LogicalPlan 的优化,所有优化均基于 Logical...

1343
来自专栏大数据架构

Spark SQL 性能优化再进一步 CBO 基于代价的优化

上文Spark SQL 内部原理中介绍的 Optimizer 属于 RBO,实现简单有效。它属于 LogicalPlan 的优化,所有优化均基于 Logical...

1363
来自专栏大数据架构

Spark SQL / Catalyst 内部原理 与 RBO

从上图可见,无论是直接使用 SQL 语句还是使用 DataFrame,都会经过如下步骤转换成 DAG 对 RDD 的操作

3176
来自专栏大数据架构

Kafka设计解析(七)- Kafka Stream

2304
来自专栏大数据架构

机器学习(三) 关联规则R语言实战 Apriori

5964
来自专栏大数据架构

Java进阶(七)正确理解Thread Local的原理与适用场景

1484
来自专栏大数据架构

Kafka设计解析(六)- Kafka高性能架构之道

1987
来自专栏大数据架构

Kafka设计解析(八)- Exactly Once语义与事务机制原理

4603
来自专栏大数据架构

机器学习(二) 如何做到Kaggle排名前2%

3413
来自专栏大数据架构

Java进阶(二)当我们说线程安全时,到底在说什么

2304
来自专栏大数据架构

Java进阶(四)线程间通信剖析

1924

扫码关注云+社区

领取腾讯云代金券