腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
Flink
如何
决定
何时
设置
检查点
?
、
我想知道是什么
决定
了
何时
设置
检查点
。这与
检查点
间隔有什么关系?
浏览 77
提问于2020-03-13
得票数 3
1
回答
确认Apache上的Google /Sub消息
、
、
、
如何
获得ackId字段(稍后我可以使用该字段来确认消息)?我正在打印的属性映射是null。是否有其他方法来确认所有消息,而不必计算出ackId?
浏览 3
提问于2017-05-16
得票数 5
回答已采纳
2
回答
如何
将HDFS
设置
为
flink
的状态后端
、
、
、
我希望将
flink
store存储在HDFS中,以便在崩溃后可以从HDFS恢复
flink
状态。我计划每隔60秒将状态写入HDFS。我
如何
才能做到这一点?这是我需要遵循的配置吗?https://ci.apache.org/projects/
flink
/
flink
-docs-release-1.4/ops/state/state_backends.html#setting-default-state-backend我应该在哪里指定
浏览 129
提问于2021-11-01
得票数 0
回答已采纳
1
回答
重新运行后,闪烁状态为空(已重新初始化)
、
、
、
我在本地和
flink
集群中运行它,并在集群中取消提交,然后在本地重新运行 env.setStateBackend(new RocksDBStateBackend(..)
浏览 4
提问于2020-05-08
得票数 1
回答已采纳
1
回答
检查点
恢复过程是
如何
工作的?
、
我试图了解
检查点
恢复的过程,到目前为止,我只发现了增量
检查点
机制是
如何
工作的信息。通常,当您在其他地方讨论备份过程时,您将首先谈到一个完整的操作,然后是代表完整和增量之间的增量操作。但是在这里,当我们谈到增量
检查点
时,我们不会对状态进行完整的快照,而是立即从增量机制开始。所以,我想了解的是,当我们使用保留时,它是
如何
工作的--我们只剩下几个增量
检查点
--那么如果增量
检查点
只代表从一个
检查点
到另一个
检查点
的变化,我们
如何</em
浏览 0
提问于2019-04-11
得票数 1
回答已采纳
1
回答
纱线接头作业
Flink
检查点
的路径动态
设置
、
、
我使用Yarn来运行
Flink
作业。对于每个
Flink
作业,我都要创建一个
检查点
。 我提交一个在我的Yarn集群中运行的
Flink
作业。当作业再次提交时,Yarn为该
Flink
作业创建一个新的application_id。
如何
配置重新提交的
Flink
作业以使用重新启动的
Flink
作业的
检查点
。我已将conf state.savepoints.dir = hdfs://localhost:9000/chec
浏览 0
提问于2018-05-22
得票数 0
回答已采纳
1
回答
无法在Apache中找到方案“nfs”的文件系统实现
我使用Apache (v1.10.0)来流计算我的RabbitMQ数据,但是当我配置
检查点
数据来存储NFS文件系统时,如下所示:告诉我这个错误: Caused by: org.apache.
flink
.runtime.c
浏览 0
提问于2020-04-11
得票数 0
回答已采纳
1
回答
如何
验证在Apache中工作的增量
检查点
?
、
在我的
flink
代码中,我使用RocksDB作为状态后端来实现增量
检查点
,但是我想知道增量
检查点
正在发生什么我的意思是有方法检查日志或
flink
仪表板是执行增量
检查点
还是执行完整
检查点
} 我在代码中做了以下
设置
配置文件
浏览 7
提问于2021-01-08
得票数 0
回答已采纳
2
回答
Flink
和SparkStreaming中
检查点
机制的不同
、
、
使用来自Kafka主题的数据,
Flink
和SparkStreaming都提供了
检查点
机制,前提是auto.commit.enabled
设置
为false。火花博士说: 在启用了
Flink
的
检查点
之后,
Flink
Kafka消费者将使用来自某个主题的记录,并定期检查其所有Kafka偏移量,以及其他操作的状态,以一致的方式。如果作业失败,
Flink
将恢复流程序到最新
检查点
的状态,并重新使用
浏览 6
提问于2017-12-12
得票数 1
1
回答
Flink
,setDbStoragePath方法在RocksDBStateBackend中做什么?
我在RocksDBStateBackend中使用
flink
1.11,代码如下所示:stateBackend.setDbStoragePath(config.getString("/tmp/rocksdb/")); env.setStateBackend(stateBac
浏览 0
提问于2021-02-24
得票数 0
回答已采纳
2
回答
Flink
- AWS上的外部
检查点
、
、
、
我计划使用Analytics上的
Flink
来执行有状态的流聚合。 那RocksSB呢?
浏览 7
提问于2019-12-31
得票数 0
回答已采纳
2
回答
有趣的
Flink
问题--如果任务管理器失败了,那么
如何
恢复
Flink
中的状态以保证只处理一次?
、
、
、
嗨,我是
Flink
的新手,并试图用下面的场景找出一些最佳实践:这将导致输出Kafka主题中的重复消息。
Flink
的
检查点
函数会有帮助吗?我想不是因为这是一
浏览 3
提问于2022-09-19
得票数 0
1
回答
Flink
精确一次-接收器处的
检查点
和屏障确认
、
、
我有一个
Flink
作业,它的接收器是将数据写入MongoDB。接收器是RichSinkFunction的实现。 接收器在什么时候确认
检查点
屏障,在调用函数开始时还是在调用完成时?意味着它在确认障碍之前等待持久化(保存在MongoDB中)响应?如果提交
检查点
是由异步线程
浏览 3
提问于2018-05-31
得票数 1
2
回答
使用Google的信息并将其发布给Kafka
、
、
、
、
我正在尝试使用同步拉API来使用Google PubSub消息。这可以在IO连接器库中获得。我想使用KafkaIO将使用的消息写到Kafka。我想使用FlinkRunner来执行作业,因为我们在GCP之外运行这个应用程序。但是,由于代码在Apache中运行,而不是在GCP DataFlow中运行,所以我认为某些类型的回调与ACK‘in提交的
浏览 3
提问于2020-11-08
得票数 0
回答已采纳
1
回答
flink
检查点
如何
帮助故障恢复
、
检查点
持续时间和两个
检查点
之间的最小停顿是3分钟,我使用的是FsStateBackend。以下是我的假设:以下是基于上述假设的我的疑虑: 1)上述假设是正确的。2)翻滚窗口是否有意义,因为在失败的情况下,无论
如何
我们都
浏览 0
提问于2020-03-12
得票数 0
1
回答
HA namenode配置的hdfs上的
Flink
检查点
、
、
flink
的
检查点
路径和hdfs://address:port/path一样是hdfs的绝对路径,但是hdfs在HA模式下,
如何
设置
hdfs namenode url变化的
flink
配置?
浏览 30
提问于2019-01-07
得票数 1
回答已采纳
1
回答
从外部化
检查点
问题恢复
Flink
、
、
我使用的是在从docker-
flink
安装的ECS中运行的
Flink
。我已经通过
flink
-conf.yaml中的state.checkpoints.dir到S3启用了外部
检查点
到AWS S3。现在,根据
Flink
文档here,如果我们想在出现故障的情况下从
检查点
恢复,我们必须使用bin/
flink
run -s :checkpointMetaDataPath [:runArgs],但我使用
FLINK
_HOME所以我不能弄清楚我的
Fl
浏览 35
提问于2020-04-03
得票数 0
回答已采纳
1
回答
状态是否保存在TaskManager的内存中,而与后端的状态无关?
我知道我既可以在
flink
的配置文件(
flink
-conf.yaml)中全局
设置
状态后端,也可以在每个作业的作用域中
设置
。StreamExecutionEnvironment.getExecutionEnvironment() env.setStateBackend(new FsStateBackend("hdfs://namenode:40010/
flink
/checkpoints")) 我有一个问题: 当
flink
作业继续运
浏览 18
提问于2020-09-07
得票数 0
回答已采纳
1
回答
Apache不删除旧的
检查点
、
我有一个非常简单的4节点
Flink
集群的
设置
,其中一个节点是Jobmanager,其他节点是任务管理器,由启动集群脚本启动。对于状态和
检查点
,所有任务管理器都有相同的配置,如下所示:state.backend.fs.checkpointdir: file:///root/
flink
-1.3.1/
检查点
/fs/.我看到了4个
检查点
目录,其名称模式为"chk-“+索
浏览 3
提问于2017-07-05
得票数 0
回答已采纳
1
回答
检查点
应该
设置
多长时间?
、
我有一个工作,使用
flink
摄取数据,并将文件格式通过拼图发送到HDFS,因为我在
Flink
中使用了streamFileSink,只有
检查点
成功,文件才会完成。我想知道
检查点
应该
设置
多长时间,什么样的参数可以参考?
浏览 0
提问于2020-08-26
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券