腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
Apache
Kafka
事务
数据流
、
、
我正在读关于
Kafka
事务
数据流
的文章,有一件事我不清楚,那就是协调器将WriteTxnMarkerRequest发送给每个分区的领导者之后会发生什么。在最初的设计文档中,
数据流
程图看起来并不像协调器在等待确认。如果是这样,它是否只是将最终提交或中止消息写入
事务
日志?
浏览 15
提问于2019-10-24
得票数 0
回答已采纳
1
回答
Kafka
消息写入延迟
、
、
、
、
我们正在尝试在Infosphere CDC- Confluent
kafka
设置中测量消息写入的延迟。我们有虚拟的表和虚拟的
事务
将被执行。
数据流
- MF DB2表--> IIDR -->
Kafka
主题 (对于
Kafka
,制片人是iidr) 在没有任何企业监控工具的情况下,找出样本
事务
的写入延迟的正确方法是什么?我们是否可以检查写入日志并考虑每个
事务
时间戳,并与cdc
事务
日志进行比较,以找出写入延迟? PS- I配置了jconsole来收集
浏览 67
提问于2019-03-05
得票数 0
2
回答
GCP Dataflow是否支持python中的
kafka
IO?
、
、
、
我正在尝试使用python code.My代码中的
kafka
.ReadFromKafka()方法读取
kafka
主题中的数据,如下所示:import
apache
_beam as beam plants = ( |
浏览 1
提问于2020-07-07
得票数 0
1
回答
我们可以使用
kafka
连接将数据从主题插入到Ms sql server db而不使用汇合平台吗?
、
、
在不使用汇流平台的情况下,可以使用
kafka
连接将主题数据插入到db。我们有许可证问题。无论我在哪里做RnD,都找不到没有汇合的。请帮帮我!
浏览 0
提问于2019-07-15
得票数 0
回答已采纳
1
回答
从日志归档创建Spark Dstream
、
、
我是Spark的新手,看起来棒极了!我只是想知道实现这一点的最好方法是什么。我应该把它们切成5分钟的块放在不同的目录中吗?如何将该命名结构与跨不同HDFS目录特定时间片相关联?我是否实现了知道日志记录的嵌入时间戳的filter()方法?谢谢!克里斯
浏览 0
提问于2015-12-02
得票数 0
2
回答
将
数据流
Kafka
用于bigquery模板时出错
、
、
、
我正在使用
数据流
kafka
到bigquery模板。启动
数据流
作业后,它会在队列中停留一段时间,然后失败,出现以下错误:at org.
apache
.beam.sdk.Pipeline.run(Pipeline.javacom.google.cloud.teleport.v2
浏览 2
提问于2020-12-07
得票数 1
1
回答
Druid只解析从一条
kafka
消息中消耗的json对象列表的第一个json对象。
、
.NET/Java应用程序每秒生成许多json对象(15.00-90.000),其中包括有关金融
事务
的各种信息。这些消息被发送到
Apache
上的特定主题,该主题将由Druid (OLAP数据库)使用。Application (.Net/Java) -->
Apache
Kafka
Topic <-
浏览 0
提问于2019-05-06
得票数 0
1
回答
org.
apache
.
kafka
.common.errors.TimeoutException:超时:获取主题元数据时过期的java.lang.RuntimeException
、
、
我正在使用
数据流
kafka
到bigquery模板。启动
数据流
作业后,它会在队列中停留一段时间,然后失败,出现以下错误:在应聘工作时,我提供了以下参数:
kafka
主题名引导服务器ip和端口(私有ip)bigquery主题名SA,子网(运行<em
浏览 3
提问于2020-12-07
得票数 0
1
回答
IBM AIX -
Apache
Kafka
、
、
我有一个IBM AIX的例子,需要将syslog、文件日志和可能的appslog发送到
Apache
,这有可能吗?我试着搜索一些关于nxlog的内容,但是他没有输出到
Kafka
的AIX,还有其他解决方案吗?
浏览 5
提问于2018-01-05
得票数 1
1
回答
Apache
Kafka
流构建器的使用
、
、
、
我一直在尝试
Apache
Kafka
开源生产者和消费者
数据流
。我有一个问题,使用1.) KafkaProducer, producer.send和2.)它们不都是用于
kafka
流数据的吗?如果我只使用KafkaProducer, producer.send,我不能实现
数据流
吗?
浏览 1
提问于2018-03-16
得票数 0
1
回答
将数据从hdfs写入运动流
、
、
、
我需要将hdfs中的数据写入到kinesis流中,以便进一步计算。有人可以指导我如何将数据从hdfs放到kinesis流中吗?例如,我在hdfs上有拼图格式的数据。我现在想把数据放到动态流中。我怎样才能控制运动中允许的极限。
浏览 2
提问于2017-09-23
得票数 0
1
回答
阿帕奇风暴JoinBolt
、
我试图用JoinBolt将两个卡夫卡
数据流
(使用卡夫卡喷口)连接成一个
数据流
,并使用下面的代码片段() JoinBoltjoinBolt = new JoinBolt("
kafka</
浏览 1
提问于2018-08-22
得票数 0
回答已采纳
1
回答
在本地环境中使用
apache
kafka
的事件
数据流
应用程序,并将其移动到AWS
Kafka
以进行预生产/生产
、
是否可以在我的笔记本电脑中使用
kafka
docker在本地使用
apache
kafka
开发事件
数据流
应用程序,然后将应用程序部署到AWS msk (
kafka
),以便仅用于预生产和生产即可节省成本。
浏览 0
提问于2020-02-14
得票数 0
1
回答
java.lang.IllegalArgumentException: KCQL错误occurred.FIELD_ID不是有效的字段名
、
、
、
我已经将数据存储到
kafka
主题中,并且我想使用landoop中的CassandraSinkConnector迁移到cassandra。
浏览 20
提问于2019-08-09
得票数 1
回答已采纳
1
回答
Kafka
中的消息一致性测试场景
、
、
、
、
我正在构建一个POC,它包含一个部署在Kubernetes上的
Kafka
集群和三个spring引导应用程序,它们从
kafka
读取数据并写入jms,反之亦然。
浏览 28
提问于2020-04-21
得票数 0
回答已采纳
1
回答
恢复
事务
性发件箱模式
、
、
、
、
问题排除: 使用跨数据库和消息代理的分布式
事务
来原子地更新数据库和发布消息/事件是不可行的。这意味着,在数据库实体被保存之前,我最终会保持一致性,但是没有数据丢失,因为我在
Kafka
主题中有消息(直到persistance工作再试一次)。
浏览 4
提问于2020-12-16
得票数 0
1
回答
(作为Azure事件中心) ->大查询
、
、
、
、
TDLR;详细信息 为了设置启用
Kafka
的事件中心,我跟踪了有关的详细信息。通过配置这些文件,我可以使用
Kafka
工具和Azure事
浏览 1
提问于2021-05-07
得票数 1
回答已采纳
1
回答
在
事务
中包装StreamBridge发送和JPA保存
、
、
、
我试图包装一个rest服务调用,它使用JPA (CrudRepository.save)将记录保存到DB,然后使用StreamBridge使用spring云流(
kafka
binder)将消息发送到
Kafka
但是,它似乎被忽略了,因为当配置中存在
事务
性id前缀时,StreamBridge似乎在内部创建自己的tx。如果没有
事务
性id前缀,ProducerFactory根本就不是
事务
性的,这将导致KafkaTransactionManager实例化失败。我试图完全避免创建自己的
事务
管理器,但
浏览 2
提问于2021-07-20
得票数 4
回答已采纳
1
回答
通过MongoDB使用Storm bolt或Spark-streaming丰富数据
、
、
、
我想创建一个Storm Spout,它从
Apache
Kafka
的主题中读取数据,并将这些数据发送到连接到MongoDB的Storm bolt,并查询我从
Kafka
收集的消息以丰富数据。例如:我有一个personID (我是通过
Kafka
发来的消息得到的),我想使用这个personID查询MongoDB中的个人地址。在我的MongoDB集合中,每个文档都有personID和地址。
浏览 0
提问于2018-04-18
得票数 0
3
回答
Kafka
Streams -无法重新平衡错误
、
错误之前的日志为:2019-01-21 17:46:32,818 localhost org.
apache
.
kafka
.common.utils.AppInfoParser:
Kafka
commitId : 3402a8361b734732 2019-01
浏览 5
提问于2019-01-22
得票数 3
点击加载更多
相关
资讯
“Kafka技术”Apache Kafka中的事务
“事件驱动架构”Apache Kafka中的事务
“消息中间件”Apache Kafka中的事务
重温 Apache Kafka
Apache Kafka设计理念探究
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券