腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
可以
不
使用
Kafka
Connect
在
Kafka
中
运行
MirrorMaker
吗
?
、
、
希望提出一个解决方案,
可以
镜像或复制一个
Kafka
环境,而不需要
Kafka
Connect
。很难想出任何可能的解决方案或变通办法。非常新的卡夫卡,将感谢您的任何想法和/或指导!
浏览 18
提问于2021-05-17
得票数 0
1
回答
镜子制造者2需要第三个卡夫卡来进行镜像操作
吗
?
、
、
当我
使用
镜像器2时,我有一个问题。
Mirrormaker
2基于
Kafka
框架,
可以
将其核心看作是
Kafka
源和接收器连接器的组合。因此,
在
MM2体系结构
中
,有源和接收器连接器。但是,对于MM2
中
的连接器,是否有额外的
Kafka
集群?因为
在
kafka
连接设计
中
,源和汇连接器需要
Kafka
集群来移动数据。例如,MM2需要源和目标集群;我的问题是,需要第三个MM2来
浏览 5
提问于2020-10-15
得票数 0
1
回答
卡夫卡镜片制造者没有开始
然而,我有问题,试图让镜像制造者
运行
。它们都有自己的配置文件和位置。
在
我应用了升级版本10.2.1之后,Broker
运行
良好,但是当我试图启动它时,镜像制造者马上就会死掉。我
在
日志上看到了这个异常 Exception in thread "main" java.lang.Nu
浏览 7
提问于2017-05-19
得票数 0
1
回答
Kafka
中
kafka
.common.OffsetOutOfRangeException异常的原因是什么
我正在
使用
Kafka
Mirrormaker
来模拟到
运行
Spark的弹性MapReduce集群的生产流量。下面是我的设置:2)
Kafka
Mirrormaker
的第二个实例
使用
1)
中
创建的测试
Kafka
实例,并发布到新的
Kafka
集群 3)弹性Map
浏览 0
提问于2018-12-28
得票数 0
3
回答
Kafka
MirrorMaker
的
使用
者没有从主题中获取所有消息
、
我正在尝试设置一个
Kafka
Mirror机制,但是似乎
Kafka
MirrorMaker
的消费者
在
Kafka
集群
中
只
在
镜像生成器进程启动时从新传入的数据
中
读取主题,即它不读取以前保存在主题中的历史数据我
使用
Kafka
的
MirrorMaker
类来实现: /bin/
kafka
-run-class.sh
kafka
.tools.
Mirror
浏览 0
提问于2015-10-09
得票数 4
1
回答
kafka
mirrormaker
2自定义分区程序
、
我正在尝试确定是否
可以
将自定义分区程序与
mirrormaker
2一起
使用
,以便在复制到目标集群时
使用
我的自定义分区程序。根据这里的文档,https://github.com/apache/
kafka
/tree/trunk/
connect
/mirror应该
可以
使用
配置格式mm2 -alias.producer.target.partitioner.class=com.my.
浏览 53
提问于2020-12-19
得票数 3
回答已采纳
1
回答
使用
Kafka
MirrorMaker
1复制记录时,是否
可以
保持原来的分区?
、
、
、
我们正在
使用
运行
在Azure Container实例
中
的
Kafka
MirrorMaker
1将记录从
kafka
集群发送到Microsoft Azure Eventhub。我们的主题有10个分区,我们
在
Azure EventHub
中
手动创建了一个具有相同名称和分区数量的主题。不幸的是,记录在被
MirrorMaker
1复制后失去了原始分区。有没有办法
使用
MirrorMaker
1保留原始分区?
浏览 46
提问于2021-08-24
得票数 0
1
回答
镜像制造者2
中
的主题爆炸
、
、
镜像制造者2是否需要6个系统主题(
在
连线的两侧)才能复制每个主题?我担心这会导致话题爆炸。我们需要卡夫卡集群之间的双向同步。
浏览 10
提问于2022-01-30
得票数 0
回答已采纳
1
回答
来源和目标集群
中
相同主题名称的
Kafka
镜像制造者
、
、
我想在源集群和目标集群之间设置
kafka
MM2。我的用例是,我
可以
成功地从源集群主题"test“镜像到目标集群主题"test”(没有集群名称前缀)。有什么线索会很感激
吗
?我想用不同的主题名称
在
源集群和目标集群之间设置
kafka
MM2。
浏览 24
提问于2022-11-29
得票数 -1
1
回答
镜像重新分区主题的大小不断增加。
、
、
、
我们正在
使用
MirrorMaker
备份主题。我们注意到,与源集群相比,由
Kafka
应用程序创建的重新分区主题在目标集群
中
的大小似乎
在
不断增加。根据org.apache.
kafka
.streams.kstream.KStream#repartition()的文档,这是有意义的 Similar to auto-repartitioning, the换句话说,由于
在
目标集群
中
没有
运行
Kafka
流应用程序,所以不会发生自动清
浏览 5
提问于2021-03-12
得票数 3
1
回答
卡夫卡集群架构-镜子制造者
、
、
我有一个由5名经纪人和4名镜像制造者组成的
Kafka
集群,
可以
从两个不同的数据中心镜像日期。我知道
kafka
broker需要自己的专用硬件,特别是因为磁盘I/O、内存
使用
量和CPU密集型应用程序都很高。我想知道
在
甚至是
Kafka
代理的节点上部署镜像生成器进程是否有意义,或者我是否应该考虑让镜像制造者: 谢谢你,贝尼阿米诺
浏览 0
提问于2018-03-02
得票数 1
1
回答
Kafka
集群从纯文本更新到SASL_PLAINTEXT,无法使
Mirrormaker
正常工作
我们
在
两个数据中心有两个独立的
kafka
集群,并配置了
Mirrormaker
来复制一组主题。每个数据中心
使用
kafka
和
mirrormaker
运行
3个节点。此安装程序
运行
正常。我在所有三个节点上的一个数据中心配置了SASL_PLAINTEXT:Djava.security.auth.login.config=
浏览 3
提问于2018-11-12
得票数 2
1
回答
如何部署Strimzi KafkaMirrorMaker
、
、
我正在
使用
strimzi操作符并在k8上
运行
kafka
集群。我想
使用
Kafka
Mirror Maker,我
使用
CRD yml部署了
Kafka
Mirror Maker,但我的KMM的pod处于crashLoopBack状态。我不知道问题是什么?my-cluster2-zookeeper-2 1/1 Running 0 10m strimzi my-
connect<
浏览 48
提问于2020-11-20
得票数 0
1
回答
从许多不同的卡夫卡经纪人那里,用火花结构的流来消费相同话题的最好方法是什么?
、
、
、
我的负载分布
在
几个数据中心(dc)之间,每个数据中心都有自己的
Kafka
Broker和数据处理器,它们只为数据中心处理数据。因此,我将有代理broker1-dc1, broker1-dc2,..我希望
使用
来自所有不同代理的主题DATA_TOPIC,并将这些数据保存在一个数据湖表
中
,我正在
使用
结构化流,但这不是必需的。我对火花没有太多的经验,我想知道的是我能做到的最好的方法,我正在考虑两种选择: 有不同的火花作业,其中每个任务
使用
来自不同数据中心的数据,并具有唯一的检查点位置;有一个为每
浏览 2
提问于2021-05-07
得票数 0
回答已采纳
2
回答
Kafka
:将主题A复制到主题B,同时对记录进行转换
、
、
我需要将记录从集群A上的主题镜像到集群B上的主题,同时
在
代理时将字段添加到记录
中
(例如,)我知道集群A正在发送序列化的JSON。我正在
使用
和
Kafka
连接来进行镜像,并且我尝试
使用
InsertField转换在记录
中
添加数据,因为它们是代理的。我的配置如下所示: connector.class=org.apache.
kafka
.
connect
.mirror.MirrorSourceCon
浏览 2
提问于2020-11-27
得票数 2
回答已采纳
2
回答
迁移
Kafka
集群的最佳方式
我有一个包含2个节点的
kafka
集群。我的
kafka
版本是0.8.1。保持无停机和无数据丢失的最佳迁移方式是什么?
浏览 3
提问于2015-03-17
得票数 2
1
回答
避免
在
Kafka
MirrorMaker
2上进行主动主动配置时
在
主题上
使用
群集前缀
、
我需要
使用
MirrorMaker
2
在
active active设置
中
复制信息,但我还需要它不像通常那样通过添加集群名称作为前缀来更改主题名称。有没有办法
在
没有任何前缀的情况下避免这种情况? 本质上,我正在寻找的是一个特定的复制策略,或者
使用
与前缀不同的东西来避免无限循环的配置。
浏览 72
提问于2021-09-01
得票数 0
1
回答
在
分布式模式下
使用
Kafka
连接,应该在哪里存在内部主题
、
Kafka
,不管怎样,都需要三个内部主题:配置、偏移和状态。这些主题是否应该存在于我正在消费数据的
Kafka
集群
中
?就上下文而言,我正在做的是其他人设置了一个
Kafka
集群,其中包含主题(消息?)我
在
我的本地机器上旋转了一个
Kafka
集群(用于测试)和这个本地实例(我们将称之为向前),然后通过键入引导服务器、一些回调处理程序类和一个
connect
.jaas文件,连接到远程
Kafka
集群(我们将称之为远程集群这三个主题是否已经存在于远程集群
中</
浏览 2
提问于2021-12-10
得票数 0
回答已采纳
1
回答
有没有办法将转换器添加到
Kafka
Strimzi
MirrorMaker
2?
、
、
、
、
现在,我需要将一些主题从一个
Kafka
集群复制到另一个集群,但在第二个集群
中
,我需要另一种格式。我们
在
Kubernetes中
使用
Strimzi。
在
一些连接器
中
可以
这样做,但我不确定
MirrorMaker
2是否允许我们这样做,因为它是基于
Kafka
Connect
的:kindTimestampConversion,
浏览 5
提问于2020-07-31
得票数 0
1
回答
kafka
MirrorMaker
:消费者线程
kafka
镜像没有
使用
代理分区。
、
这是关于卡夫卡
MirrorMaker
工具。 卡夫卡在来源和目的地都是同样版本的卡夫卡卡夫卡_2.11-0.9.0.0 下面是我
使用
的命令: ./bin/
kafka
-run-class.sh
kafka
浏览 7
提问于2016-05-06
得票数 2
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券