腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
Spark生态圈
专栏作者
举报
35
文章
45983
阅读量
17
订阅数
订阅专栏
申请加入专栏
全部文章(35)
spark(20)
其他(11)
sql(3)
存储(3)
数据库(2)
人工智能(2)
yarn(2)
分布式(2)
大数据(2)
java(1)
servlet(1)
node.js(1)
云数据库 SQL Server(1)
github(1)
api(1)
jar(1)
编程算法(1)
网络安全(1)
jdbc(1)
zookeeper(1)
数据结构(1)
https(1)
hbase(1)
kafka(1)
Elasticsearch Service(1)
搜索文章
搜索
搜索
关闭
[spark] Standalone模式下Master、WorKer启动流程
spark
分布式
yarn
而Standalone 作为spark自带cluster manager,需要启动Master和Worker守护进程,本文将从源码角度解析两者的启动流程。Master和Worker之间的通信使用的是基于netty的RPC,Spark的Rpc推荐看深入解析Spark中的RPC。
UFO
2018-08-29
1.5K
0
spark任务之Task失败监控
spark
人工智能
yarn
在spark程序中,task有失败重试机制(根据 spark.task.maxFailures 配置,默认是4次),当task执行失败时,并不会直接导致整个应用程序down掉,只有在重试了 spark.task.maxFailures 次后任然失败的情况下才会使程序down掉。另外,spark on yarn模式还会受yarn的重试机制去重启这个spark程序,根据 yarn.resourcemanager.am.max-attempts 配置(默认是2次)。
UFO
2018-08-29
2.6K
0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
立即发文
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档