腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(7900)
视频
沙龙
1
回答
如果
我
要
发送
消息
的
分区
已满
,
Kafka
会在
同一
主题
中
选择
另一个
分区
吗
?
、
、
我
的
主题
有3个
分区
(在3个不同
的
代理
中
)。
我
想将
消息
发送
到特定
的
分区
1(添加
分区
id或在
我
的
消息
中指定一个键)。假设
分区
1充满了磁盘,是否为该
消息
选择
了替代
分区
(在本例
中
为
分区
2或
分区
3)?
浏览 31
提问于2020-10-07
得票数 1
回答已采纳
2
回答
消息
到
分区
分配、排序和
分区
编号调整
正如我所理解
的
,
如果
我
在
我
的
主题
中使用键控
消息
,
kafka
分区
器将始终以相同
的
键向
同一
个
分区
发送
消息
,这将确保对特定
消息
集
的
排序。此外,默认
分区
程序将根据该特定
主题
可用
的
分区
数量,最初作出向哪个
分区
发送
<
浏览 5
提问于2017-06-29
得票数 0
回答已采纳
3
回答
是否有任何方法来维护卡夫卡
主题
的
分区
与单个消费者之间
的
消息
排序?
、
、
我们正在开发一个基于
kafka
的
流系统,在该系统
中
,生产者将在其
主题
中生成多个
分区
,而单个用户将从该
主题
中消费。
我
知道
kafka
在
分区
内维护
消息
顺序,但是我们能在
主题
中
的
分区
之间维护全局
消息
顺序
吗
?
浏览 8
提问于2016-04-21
得票数 7
回答已采纳
1
回答
Kafka
消费者组和
分区
、
我
很难理解
分区
和用户组背后
的
关系。 这些想法本身是非常清晰
的
,每一条推到
主题
的
消息
都会被复制到它
的
所有
分区
,对
吗
?这样,
如果
两个不同
的
客户端连接到
同一
主题
的
两个不同
分区
,那么它们应该在不相互中断
的
情况下使用和提交相同
的
消息
。正如我所理解
的
,
浏览 7
提问于2017-05-03
得票数 6
回答已采纳
3
回答
kafka
producer
中
的
两种不同类型
的
分区
在卡夫卡制片人中,
我
发送
了两组不同
的
数据。对于这个
主题
,
我
有两个
分区
。第一个是带钥匙
的
,第二个是没有键
的
。据我所知,键用于为数据创建
分区
。
如果
密钥不存在,则将
发送
null,并且
分区
将通过循环调度而发生。除了使用键生
浏览 3
提问于2020-01-03
得票数 1
2
回答
apache
kafka
中
的
负载平衡
、
我
是阿帕奇卡夫卡
的
新手,
我
一直在玩它。
如果
我
有两个代理和一个有4个
分区
的
主题
,并且假设
我
的
一个代理负载很重,
kafka
会负责平衡从生产者到
另一个
免费代理
的
传入流量
吗
?
如果
是这样的话,是如何做到
的
?
浏览 4
提问于2015-12-10
得票数 4
2
回答
不同的卡夫卡制作者用相同
的
键传递信息到不同
的
分区
吗
?
我
有两个
Kafka
生产者向
同一
个
主题
发送
消息
,这个
主题
有多个
分区
。 来自
同一
个生产者K1
的
相同密钥PR1
的
消息
总是按照预期
发送
到相同
的
分区
PA1。问题是,来自
另一个
生产者
的
相同密钥K1
的
消息
转到
另一个
分区
PA2,而我希望它
浏览 0
提问于2019-09-10
得票数 0
回答已采纳
1
回答
Kafka
主题
分区
中
的
键和值avro
消息
分发
、
、
我们使用6个
分区
的
kafka
主题
,来自生产者
的
传入
消息
有4个键key1、key2、key3、key4及其相应
的
值,
我
发现这些值只分布在3个
分区
中
,其余
的
分区
仍然是空
的
。
消息
的
分布是否以键
的
哈希值为基础? 假设
我
的
Key1
的
哈希值是XXXX,那么它在总共6
浏览 1
提问于2018-07-22
得票数 0
回答已采纳
3
回答
无法从卡夫卡
的
消费者那里向死信
主题
发送
信息
、
、
、
、
我
正在尝试将一条
消息
路由到
Kafka
中
的
死信
主题
,以防在处理相应
消息
时出现任何失败。
我
已经为该功能设置了SeektoCurrentErrorHandler和DeadLetterPublishingRecoverer。
我
已经在卡夫卡集群
中
创建了test_execution.DLT
主题
,并且
我
显然能够从控制台生产者那里产生对这个
主题
的
信息。 使用者正
浏览 1
提问于2020-08-07
得票数 6
回答已采纳
1
回答
Kafka
多租户负载均衡
、
我
正在考虑将
Kafka
作为最终将向用户
发送
推送通知
的
worker节点
的
消息
代理
的
几种技术之一。换句话说,
我
希望每个租户以大致相同
的
速率处理他们
的
消息
。
我
的
选择
似乎要么为每个租户创建一个
主题
,要么为每个租户创建一个
分区
。两者似乎都是有问题
的
和/或不受欢迎
的
。 为每个租
浏览 0
提问于2019-05-02
得票数 2
2
回答
如果
Kafka
用户订阅多个
主题
,则接收
消息
的
顺序
、
我
有一个消费者,它会投票给多个
主题
。对于这个问题,
我
限制了每个
主题
的
一个
分区
。假设到消费者开始轮询时,每个
主题
都有一些数据。阅读
的
顺序是什么? 是循环往复
吗
?是从第一次读到第二次
吗
?
我
使用consumer.poll(N)进行投票。
浏览 0
提问于2018-11-05
得票数 5
回答已采纳
3
回答
如果
在收到create
消息
之前收到了update
消息
,该如何处理
kafka
消息
?
、
、
我们有多个
kafka
分区
。因此,假设create
消息
发送
到
分区
1,update
消息
发送
到<e
浏览 0
提问于2021-05-06
得票数 1
1
回答
Kafka
中
的
使用者如何被分配到特定
的
分区
;在
我
的
例子
中
,
分区
是通过键
的
散列值来分配
的
当一个
分区
由生产者使用一个数字分配时。kafkaTemplate.send(topic, 1, "[" + LocalDateTime.now() + "]" + "Message to partition 1"); number 1第二个参数定义了
要
发送
消息
的
分区
我
根据生产者使用DefaultPartitioner
发送
的
密钥哈希来
选择
一个
分区</e
浏览 0
提问于2018-08-31
得票数 1
2
回答
数据
中
kafka
主题
分词
的
数量和不同键
的
数目
、
、
我
想使用键/值模式写作卡夫卡,以保持相同
的
顺序,数据写入,同时阅读。
我
的
问题是,
主题
中
的
分区
数是否等于传入数据
中
的
不同键数。
我
已经知道,使用键/值模式,具有相同键
的
数据将转到
同一
个
分区
。因此,
如果
分区
的
数量不等于数据
中
的
不同键数,那么我们可以在
同一
浏览 3
提问于2020-02-18
得票数 0
回答已采纳
1
回答
Kafka
如何处理
分区
溢出?
、
我
开始使用
Kafka
,并试图了解当
Kafka
集群
中
的
主题
分区
填满超过其限制时会发生什么。
我
知道一个
分区
驻留在
同一
个节点上,但不同
的
分区
驻留在不同
的
节点上。
如果
我
在
Kafka
生产者中使用自定义
分区
逻辑,其中某个键总是指向某个
分区
,那么当该
分区
变满时会发生什么?
浏览 13
提问于2018-01-14
得票数 1
回答已采纳
1
回答
一个
Kafka
代理连接到多个动物园管理员
、
我
对
Kafka
,zookeeper和Storm都不熟悉。在我们
的
环境
中
,我们有一个
Kafka
代理连接到多个动物园管理员。让生产者将
消息
发送
到特定
主题
,并将一个代理上
的
分区
发送
给多个zookeepers,与将多个代理
发送
给多个zookeepers相比,是否有优势?
浏览 1
提问于2015-09-02
得票数 1
1
回答
kafka
消费者如何从不同
的
分区
以相似的速度读取数据?
、
、
在使用Spark Structured Streaming和Kinesis Streams时,
我
在重新处理流
中
积累
的
数据时遇到了读取不平衡
的
情况(而不是从最新数据读取)。最近,一位团队成员建议改用
Kafka
。
我
对Apache
Kafka
解决这个问题持怀疑态度,因为AFAIK修复
我
上面描述
的
读取不平衡
的
唯一方法是在消费者级别引入某种协调。尽管如此,经过一些测试,来自
Kafka
主题
<e
浏览 1
提问于2021-07-04
得票数 1
3
回答
卡夫卡分划与穿越
我
有卡夫卡
的
介绍经验,
我
试图探索它
的
细节。假设
我
有两个使用者,它以每秒“10”条
消息
浏览 0
提问于2019-02-26
得票数 3
2
回答
如何理解
Kafka
流?
、
我
正在遵循
Kafka
streams文档,
我
对一些概念感到困惑,
我
想在这里澄清这些概念。它还标记要重新
分区
的
数据。 问题: 1)重新划分是什么意思,是为新
的
主题
重新划分数据,还是重新划分
同一
主题
中
的
数据,从哪里开始流式传输?2)
如果
旧
的
主题
数据被重新划分,这是否意味着转换后
的
结果也将写入该
主题
?它获取了一条记录
浏览 12
提问于2019-09-29
得票数 0
4
回答
在
Kafka
中
添加
消息
类型?
、
、
我们开始在后端再开发中使用
Kafka
,并且有一个关于如何构建我们生产和消费
的
消息
的
快速问题。 假设我们有一个处理用户CRUD操作
的
用户微服务。已经提出
的
两种可能
的
结构是: 1)四个
kafka
主题
,每个操作一个。topic: user_deleted and so on 2)与用户相关
浏览 53
提问于2017-06-26
得票数 2
回答已采纳
点击加载更多
相关
资讯
Go kafka consumer小知识点
Vite 从入门到精通,玩转新时代前端构建法则-完整分享
系统解读Kafka的流和表(二):主题、分区和存储
Kafka 和 RocketMQ 之性能对比
Hadoop进级教程之-Kafka架构原理
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
云直播
活动推荐
运营活动
广告
关闭
领券