前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >关于Mapreduce On Yarn中Map数量的设置

关于Mapreduce On Yarn中Map数量的设置

作者头像
囚兔
发布2018-02-08 10:32:09
1.5K0
发布2018-02-08 10:32:09
举报
文章被收录于专栏:IT杂记IT杂记

同事最近对MR on Yarn中Map数量的一个小的研究,描述如下:

    在新版MapReduce 中即 MR on yarn中,不支持设置Map数量。

    Map的数量是由MinInputSplitSize决定的,公式:

Map的数量 = TotalSize / MinInputSplitSize

    要想控制Map的数量,可以通过控制MinInputSplitSize大小来控制Map数量。

        如果设置的MinInputSplitSize大于BlockSize,MinInputSplitSize即为设置的值; 反之设置的MinInputSplitSize小于BlockSize,MinInputSplitSize的值会置为BlockSize。

        如果保持默认设置的话,MinInputSplitSize则为BlockSize,

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档