腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
Spark生态圈
专栏成员
举报
35
文章
48136
阅读量
17
订阅数
订阅专栏
申请加入专栏
全部文章（35）
spark（20）
其他（11）
sql（3）
存储（3）
数据库（2）
人工智能（2）
yarn（2）
分布式（2）
大数据（2）
java（1）
servlet（1）
node.js（1）
云数据库 SQL Server（1）
github（1）
api（1）
jar（1）
编程算法（1）
网络安全（1）
jdbc（1）
zookeeper（1）
数据结构（1）
https（1）
hbase（1）
kafka（1）
Elasticsearch Service（1）
搜索文章
搜索
搜索
关闭
Spark Streaming管理Kafka偏移量前言从ZK获取offset
zookeeper
spark
存储
kafka
为了让Spark Streaming消费kafka的数据不丢数据，可以创建Kafka Direct DStream，由Spark Streaming自己管理offset，并不是存到zookeeper。启用Spark Streaming的 checkpoints是存储偏移量的最简单方法，因为它可以在Spark的框架内轻松获得。 checkpoints将应用程序的状态保存到HDFS，以便在故障时可以恢复。如果发生故障，Spark Streaming应用程序可以从checkpoints偏移范围读取消息。
UFO
2018-09-04
1.8K
0
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪，探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档
