这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos
理解状态:《深入了解ProcessFunction的状态操作(Flink-1.10)》
如果您不想写代码,整个系列的源码可在GitHub下载到,地址和链接信息如下表所示(https://github.com/zq2599/blog_demos):
名称 | 链接 | 备注 |
---|---|---|
项目主页 | 该项目在GitHub上的主页 | |
git仓库地址(https) | 该项目源码的仓库地址,https协议 | |
git仓库地址(ssh) | git@github.com:zq2599/blog_demos.git | 该项目源码的仓库地址,ssh协议 |
这个git项目中有多个文件夹,本章的应用在flinkstudy文件夹下,如下图红框所示:
package com.bolingcavalry.coprocessfunction;
import org.apache.flink.api.common.state.ValueState;
import org.apache.flink.api.common.state.ValueStateDescriptor;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.configuration.Configuration;
import org.apache.flink.streaming.api.functions.co.CoProcessFunction;
import org.apache.flink.util.Collector;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
/**
* @author will
* @email zq2599@gmail.com
* @date 2020-11-11 09:48
* @description 功能介绍
*/
public class AddTwoSourceValue extends AbstractCoProcessFunctionExecutor {
private static final Logger logger = LoggerFactory.getLogger(AddTwoSourceValue.class);
@Override
protected CoProcessFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, Tuple2<String, Integer>> getCoProcessFunctionInstance() {
return new CoProcessFunction<Tuple2<String, Integer>, Tuple2<String, Integer>, Tuple2<String, Integer>>() {
// 某个key在processElement1中存入的状态
private ValueState<Integer> state1;
// 某个key在processElement2中存入的状态
private ValueState<Integer> state2;
@Override
public void open(Configuration parameters) throws Exception {
// 初始化状态
state1 = getRuntimeContext().getState(new ValueStateDescriptor<>("myState1", Integer.class));
state2 = getRuntimeContext().getState(new ValueStateDescriptor<>("myState2", Integer.class));
}
@Override
public void processElement1(Tuple2<String, Integer> value, Context ctx, Collector<Tuple2<String, Integer>> out) throws Exception {
logger.info("处理元素1:{}", value);
String key = value.f0;
Integer value2 = state2.value();
// value2为空,就表示processElement2还没有处理或这个key,
// 这时候就把value1保存起来
if(null==value2) {
logger.info("2号流还未收到过[{}],把1号流收到的值[{}]保存起来", key, value.f1);
state1.update(value.f1);
} else {
logger.info("2号流收到过[{}],值是[{}],现在把两个值相加后输出", key, value2);
// 输出一个新的元素到下游节点
out.collect(new Tuple2<>(key, value.f1 + value2));
// 把2号流的状态清理掉
state2.clear();
}
}
@Override
public void processElement2(Tuple2<String, Integer> value, Context ctx, Collector<Tuple2<String, Integer>> out) throws Exception {
logger.info("处理元素2:{}", value);
String key = value.f0;
Integer value1 = state1.value();
// value1为空,就表示processElement1还没有处理或这个key,
// 这时候就把value2保存起来
if(null==value1) {
logger.info("1号流还未收到过[{}],把2号流收到的值[{}]保存起来", key, value.f1);
state2.update(value.f1);
} else {
logger.info("1号流收到过[{}],值是[{}],现在把两个值相加后输出", key, value1);
// 输出一个新的元素到下游节点
out.collect(new Tuple2<>(key, value.f1 + value1));
// 把1号流的状态清理掉
state1.clear();
}
}
};
}
public static void main(String[] args) throws Exception {
new AddTwoSourceValue().execute();
}
}
22:35:12,135 INFO AddTwoSourceValue - 处理元素1:(aaa,111)
22:35:12,136 INFO AddTwoSourceValue - 2号流还未收到过[aaa],把1号流收到的值[111]保存起来
22:35:34,473 INFO AddTwoSourceValue - 处理元素2:(bbb,123)
22:35:34,473 INFO AddTwoSourceValue - 1号流还未收到过[bbb],把2号流收到的值[123]保存起来
22:35:38,072 INFO AddTwoSourceValue - 处理元素2:(aaa,222)
22:35:38,072 INFO AddTwoSourceValue - 1号流收到过[aaa],值是[111],现在把两个值相加后输出
(aaa,333)
如果您不想自己搭建kubernetes环境,推荐使用腾讯云容器服务TKE:无需自建,即可在腾讯云上使用稳定, 安全,高效,灵活扩展的 Kubernetes 容器平台;
如果您希望自己的镜像可以通过外网上传和下载,推荐腾讯云容器镜像服务TCR:像数据加密存储,大镜像多节点快速分发,跨地域镜像同步
微信搜索「程序员欣宸」,我是欣宸,期待与您一同畅游Java世界...
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。