前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >flink系列(6)-流分区器partition分析

flink系列(6)-流分区器partition分析

作者头像
yiduwangkai
发布2019-09-17 16:05:12
1.4K0
发布2019-09-17 16:05:12
举报
文章被收录于专栏:大数据进阶大数据进阶

流分区器,在流进行转换后,flink通过分区器精确控制数据的流向,下图是flink提供的所有的所有的分区器

可以发现所有的partition都需要实现StreamPartitioner接口和ChannelSelector的接口

其中ForwardPartitioner和GlobalPartitioner两个实现器基本一样,是将记录转发给在本地运行的下游的(归属于subtask)的operation

ShufflePartitioner是随机选择一个channel

RebalancePartitioner实现了一个轮询分区算法

BroadcastPartitioner是将数据发往下游所有节点

RescalPartitioner是通过轮询的方式发往下游

针对这个进行一些说明:

上游操作所发送的元素被分区到下游操作的哪些子集,依赖于上游和下游操作的并行度。例如,如果上游操作的并行度为2,而下游操作的并行度为4,那么一个上游操作会分发元素给两个下游操作,同时另一个上游操作会分发给另两个下游操作。相反的,如果下游操作的并行度为2,而上游操作的并行度为4,那么两个上游操作会分发数据给一个下游操作,同时另两个上游操作会分发数据给另一个下游操作。在上下游的并行度不是呈倍数关系的情况下,下游操作会有数量不同的来自上游操作的输入 KeyGroupStreamPartitioner:通过记录的数据值获得分区key,通过如下公式

代码语言:javascript
复制
keyGroupId * parallelism / maxParallelism

计算出最终的channel

CustomPartitionerWrapper:是自定义分区器

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档