我的服务已经在卡夫卡工作了一年了,没有发生任何自发的领导人变动。但在过去的两周里,这种情况经常发生。Kafka登录:
什么能引起换位领袖?如果有一些卡夫卡文档中的信息-请-只要指向链接。我没能找到。
系统配置
卡夫卡版本: kafka_2.10-0.8.2.1
os:版本6.5 (圣地亚哥)
server.properties (不同于默认):
发布于 2015-09-28 19:24:58
看起来,lead对这个分区来说已经失败了。可能是在server.properties中配置的数据目录(directroy,server.properties)空间不足,代理无法容纳。此外,主题的复制因素和代理的集群大小是什么?
发布于 2015-09-30 10:16:48
我假设您有一个主题和一个分区,其复制因子为2,这对于优化的Kafka性能和使用者来说不是一个很好的配置。
你的日志不够清晰,不足以让领导者切换。您的主题中的主要问题可能是,由于唯一的分区,可能只有一个领导者。现在,日志中的单个文件越来越大。卡夫卡内部在一定程度上进行了再平衡(细节尚未得到证实)。这可能是你的领导转变的原因。但我不确定。
另外,在你的第二条日志行中,它说一些日志被截断。请您详细查看日志并检查是否只在截断后才发生这种情况?
正如您已经提到的,您已经检查了您的Kafka日志目录文件及其大小。当你遇到这个问题时,请运行描述。领导开关也会在这里反映出来。或者,如果您可以设置一些仪表板,将显示过去的领导时间。这样你就很容易找到根本原因。
bin/kafka-topics.sh --describe --zookeeper Zookeeperhost:Port --topic TopicName
建议:我建议您创建一个有更多分区的新主题(请阅读Kafka文档,以便对最佳分区数有一个好的想法)并开始编写。或者您可以检查如何更改当前主题的分区。
最后一件事:是领导者的调换导致了客户的一些问题,还是你只是担心警告?
https://stackoverflow.com/questions/32819159
复制相似问题