首页
学习
活动
专区
工具
TVP
发布

Java进阶之路

专栏作者
68
文章
135571
阅读量
26
订阅数
极客时间kafka专栏评论区笔记
Consumer Group :Kafka提供的可扩展且具有容错性的消息者机制。 1、重要特征: A:组内可以有多个消费者实例(Consumer Instance)。 B:消费者组的唯一标识被称为Group ID,组内的消费者共享这个公共的ID。 C:消费者组订阅主题,主题的每个分区只能被组内的一个消费者消费 D:消费者组机制,同时实现了消息队列模型和发布/订阅模型。 2、重要问题: A:消费组中的实例与分区的关系: 消费者组中的实例个数,最好与订阅主题的分区数相同,否则多出的实例只会被闲置。一个分区只能被一个消费者实例订阅。 B:消费者组的位移管理方式: (1)对于Consumer Group而言,位移是一组KV对,Key是分区,V对应Consumer消费该分区的最新位移。 (2)Kafka的老版本消费者组的位移保存在Zookeeper中,好处是Kafka减少了Kafka Broker端状态保存开销。但ZK是一个分布式的协调框架,不适合进行频繁的写更新,这种大吞吐量的写操作极大的拖慢了Zookeeper集群的性能。 (3)Kafka的新版本采用了将位移保存在Kafka内部主题的方法。 C:消费者组的重平衡: (1)重平衡:本质上是一种协议,规定了消费者组下的每个消费者如何达成一致,来分配订阅topic下的每个分区。 (2)触发条件: a,组成员数发生变更 b,订阅主题数发生变更 c,定阅主题分区数发生变更 (3)影响: Rebalance 的设计是要求所有consumer实例共同参与,全部重新分配所有用分区。并且Rebalance的过程比较缓慢,这个过程消息消费会中止。
神秘的寇先森
2020-02-19
9931
nginx配置自定义变量实现日志动态分发
Nginx是一个异步框架的 Web服务器,也可以用作反向代理,负载平衡器 和 HTTP缓存。下载地址:www.nginx.org。
神秘的寇先森
2018-12-07
4.7K0
Java分布式缓存框架Ehcache 使用(二)
上节谈了EHCache的基本使用,这节来谈谈EHCache使用的一些细节问题和要注意的问题。 Ehcache的类层次模型主要为三层,最上层的是CacheManager,他是操作Ehcache的入口。我们可以通过CacheManager.getInstance()获得一个单个的CacheManager,或者通过CacheManager的构造函数创建一个新的CacheManager。每个CacheManager都管理着多个Cache。而每个Cache都以一种类Hash的方式,关联着多个Elemenat。而Ele
神秘的寇先森
2018-06-07
9920
Java分布式缓存框架Ehcache 使用
在开发中大型Java软件项目时,对于频繁读写数据库的操作,为了减轻数据库的压力,我们常常会用到缓存。因为数据库连接是非常“昂贵”的资源,因此我们需要增加一个抽象层来解决,缓存层应用而生。 缓存的数据是保存在内存中的,而内存的速度是硬盘的10万倍,所以读取速度相当快。第一次访问从数据库读取数据, 并且放到缓存中;后续访问直接从缓存中读取数据;发生变化,既要更新数据库, 也要更新缓存。 说到缓存,大家可能直接印象就是Redis,方便好用。但是Redis是通过网络传输的,所以当数据库大的时候Redis的压力就太大
神秘的寇先森
2018-05-30
2.3K0
没有更多了
社区活动
RAG七天入门训练营
鹅厂大牛手把手带你上手实战
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档