前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >pyspark之textFile和parallelize对应的分区数目

pyspark之textFile和parallelize对应的分区数目

作者头像
西西嘛呦
发布2020-08-26 09:56:26
6090
发布2020-08-26 09:56:26
举报

textFile:

defaultParallelism=max(totalCoreCount,2)

min(defaultParallelism,2)

parallelize:

max(totalCoreCount,2)

假设是4核的,那么:

对于textFile:

defaultParallelism=max(4,2)=4

  分区数=min(defaultParallelism,2)=2

对于parallelize:

  分区数=max(4,2)=4

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-08-11 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档