首页
学习
活动
专区
工具
TVP
发布

分布式系统进阶

专栏作者
104
文章
146865
阅读量
30
订阅数
Kafka的日志管理模块--LogManagerKafka源码分析-汇总
a. 如果kafka进程是优雅干净地退出的,会创建一个名为.kafka_cleanshutdown的文件作为标识; b. 启动kafka时, 如果不存在该文件, 则broker的状态进入到 RecoveringFromUncleanShutdown c. 针对dir下的每个topic子目录, 创建Log对象, 此对象在创建过程中会加载,恢复实际的消息, 每个这样的过程跑在一个使用**CoreUtils.runnable **创建的Job里, job再提交到线程池执行, 实际上是生成一个Feture, d. 等待c中所有的job都执行完, 以便完成所有的log加载,恢复过程;
扫帚的影子
2018-09-05
8130
Kafka中的消息操作的层级调用关系Kafka源码分析-汇总
Kafka里有关log操作的类比较类, 但是层次关系还是很清晰的,实际上就是上次会把操作代理给下一层; 是时候放出这张图了 Log层级.png 相关的一些类我们在前面的章节中都有介绍过 Kafka的
扫帚的影子
2018-09-05
7520
Kafka消息的磁盘存储Kafka源码分析-汇总
可以看到使用FileMessageSet来操作Log文件, 使用OffsetIndex来操作Index文件
扫帚的影子
2018-09-05
1.5K0
Kafka重置消费的OffsetKafka源码分析-汇总
Kafka消费后都会提交保存当前的消费位置offset, 可以选择保存在zk, 本地文件或其他存储系统; Kafka 0.8以后提供了Coordinator的角色,.Coordinator除了可以来协
扫帚的影子
2018-09-05
2K0
Kafka中Message存储相关类大揭密Kafka源码分析-汇总
我们使用Kafka, 最终都是要存,取消息,今天我们就来看下源码中和消息相关的类; 涉及到的类: Message Record MessageSet ByteBufferMessageSet Buf
扫帚的影子
2018-09-05
9500
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档