我们使用卡夫卡镜片制造者版本1来反映卡夫卡集群之间的数据。我知道MM1是不受欢迎的,但它是软件的坚实组成部分,完全可以满足我们的需要。我们使用它的是一个专门的Kafka安装,它独立于我们存储数据的集群(目前正在运行Kafka版本2.6 )。
我们使用了Kafka 2.7.x的“镜Kafka Kafka”,并最近更新了这个3.3.1。从那时起,我们在out MM日志中有很多消息:
2022-12-01 15:07:45,368 INFO Metadata - [Producer clientId=*****] Resetting the last seen epoch of partition MyTopic-5 to 87 since the associated topicId changed from null to c59OzubzRAO-yhA72TSFEw
2022-12-01 15:12:45,373 INFO Metadata - [Producer clientId=*****] Resetting the last seen epoch of partition MyTopic-5 to 87 since the associated topicId changed from null to c59OzubzRAO-yhA72TSFEw
2022-12-01 15:22:45,388 INFO Metadata - [Producer clientId=*****] Resetting the last seen epoch of partition MyTopic-5 to 87 since the associated topicId changed from null to c59OzubzRAO-yhA72TSFEw
2022-12-01 15:37:45,394 INFO Metadata - [Producer clientId=*****] Resetting the last seen epoch of partition MyTopic-5 to 87 since the associated topicId changed from null to c59OzubzRAO-yhA72TSFEw
2022-12-01 15:42:45,398 INFO Metadata - [Producer clientId=*****] Resetting the last seen epoch of partition MyTopic-5 to 87 since the associated topicId changed from null to c59OzubzRAO-yhA72TSFEw如您所见,这条消息每5分钟重复一次。我们镜像数百个分区,并记录多个分区(可能全部)的消息。
不幸的是,我不清楚这一信息的含义。在一定的时间间隔内不断的重复也让我感到奇怪。可能我的(生产者)配置仍然有缺陷。
如果有人能解释这一现象,并知道我可以采取什么措施来改善这一现象,我将非常高兴。
发布于 2022-12-02 11:35:00
您所看到的消息与KAFKA-12257修复程序有关,它的实现是为了解决生产者客户端无法正确跟踪主题分区时代的问题。具体来说,修复确保生产者客户端能够通过将唯一标识符( "topicId")与其关联来跟踪分区的时代。
在您的示例中,消息每5分钟被记录一次,因为生产者客户端正在将特定分区(MyTopic-5)上一次看到的时代重置为87,因为关联的topicId从null更改为c59OzubzRAO-yhA72TSFEw。
为了确保生产者能够正确地跟踪分区的时代,您应该检查您的生产者配置,并确保正确设置"topicId“。此外,还应确保生产者客户端配置为正确处理分区重新分配事件,因为这可能导致topicId更改。
最后,如果您与生产者客户端仍然有问题,无法正确跟踪分区的时代,您可能想考虑升级到一个新版本的Kafka,因为MM1现在已经被废弃了。
https://stackoverflow.com/questions/74652231
复制相似问题