腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
Apache
Kafka
事务
数据流
、
、
我正在读关于
Kafka
事务
数据流
的文章,有一件事我不清楚,那就是协调器将WriteTxnMarkerRequest发送给每个分区的领导者之后会发生什么。在最初的设计文档中,
数据流
程图看起来并不像协调器在等待确认。如果是这样,它是否只是将最终提交或中止消息写入
事务
日志?
浏览 15
提问于2019-10-24
得票数 0
回答已采纳
1
回答
Kafka
消息写入延迟
、
、
、
、
我们正在尝试在Infosphere CDC- Confluent
kafka
设置中测量消息写入的延迟。我们有虚拟的表和虚拟的
事务
将被执行。
数据流
- MF DB2表--> IIDR -->
Kafka
主题 (对于
Kafka
,制片人是iidr) 在没有任何企业监控工具的情况下,找出样本
事务
的写入延迟的正确方法是什么?我们是否可以检查写入日志并考虑每个
事务
时间戳,并与cdc
事务
日志进行比较,以找出写入延迟? PS- I配置了jconsole来收集
浏览 67
提问于2019-03-05
得票数 0
2
回答
GCP Dataflow是否支持python中的
kafka
IO?
、
、
、
我正在尝试使用python code.My代码中的
kafka
.ReadFromKafka()方法读取
kafka
主题中的数据,如下所示:import
apache
_beam as beam plants = ( |
浏览 1
提问于2020-07-07
得票数 0
1
回答
我们可以使用
kafka
连接将数据从主题插入到Ms sql server db而不使用汇合平台吗?
、
、
在不使用汇流平台的情况下,可以使用
kafka
连接将主题数据插入到db。我们有许可证问题。无论我在哪里做RnD,都找不到没有汇合的。请帮帮我!
浏览 0
提问于2019-07-15
得票数 0
回答已采纳
1
回答
从日志归档创建Spark Dstream
、
、
我是Spark的新手,看起来棒极了!我只是想知道实现这一点的最好方法是什么。我应该把它们切成5分钟的块放在不同的目录中吗?如何将该命名结构与跨不同HDFS目录特定时间片相关联?我是否实现了知道日志记录的嵌入时间戳的filter()方法?谢谢!克里斯
浏览 0
提问于2015-12-02
得票数 0
2
回答
将
数据流
Kafka
用于bigquery模板时出错
、
、
、
我正在使用
数据流
kafka
到bigquery模板。启动
数据流
作业后,它会在队列中停留一段时间,然后失败,出现以下错误:at org.
apache
.beam.sdk.Pipeline.run(Pipeline.javacom.google.cloud.teleport.v2
浏览 2
提问于2020-12-07
得票数 1
1
回答
Druid只解析从一条
kafka
消息中消耗的json对象列表的第一个json对象。
、
.NET/Java应用程序每秒生成许多json对象(15.00-90.000),其中包括有关金融
事务
的各种信息。这些消息被发送到
Apache
上的特定主题,该主题将由Druid (OLAP数据库)使用。Application (.Net/Java) -->
Apache
Kafka
Topic <-
浏览 0
提问于2019-05-06
得票数 0
1
回答
org.
apache
.
kafka
.common.errors.TimeoutException:超时:获取主题元数据时过期的java.lang.RuntimeException
、
、
我正在使用
数据流
kafka
到bigquery模板。启动
数据流
作业后,它会在队列中停留一段时间,然后失败,出现以下错误:在应聘工作时,我提供了以下参数:
kafka
主题名引导服务器ip和端口(私有ip)bigquery主题名SA,子网(运行<em
浏览 3
提问于2020-12-07
得票数 0
1
回答
IBM AIX -
Apache
Kafka
、
、
我有一个IBM AIX的例子,需要将syslog、文件日志和可能的appslog发送到
Apache
,这有可能吗?我试着搜索一些关于nxlog的内容,但是他没有输出到
Kafka
的AIX,还有其他解决方案吗?
浏览 5
提问于2018-01-05
得票数 1
1
回答
Apache
Kafka
流构建器的使用
、
、
、
我一直在尝试
Apache
Kafka
开源生产者和消费者
数据流
。我有一个问题,使用1.) KafkaProducer, producer.send和2.)它们不都是用于
kafka
流数据的吗?如果我只使用KafkaProducer, producer.send,我不能实现
数据流
吗?
浏览 1
提问于2018-03-16
得票数 0
1
回答
将数据从hdfs写入运动流
、
、
、
我需要将hdfs中的数据写入到kinesis流中,以便进一步计算。有人可以指导我如何将数据从hdfs放到kinesis流中吗?例如,我在hdfs上有拼图格式的数据。我现在想把数据放到动态流中。我怎样才能控制运动中允许的极限。
浏览 2
提问于2017-09-23
得票数 0
1
回答
阿帕奇风暴JoinBolt
、
我试图用JoinBolt将两个卡夫卡
数据流
(使用卡夫卡喷口)连接成一个
数据流
,并使用下面的代码片段() JoinBoltjoinBolt = new JoinBolt("
kafka</
浏览 1
提问于2018-08-22
得票数 0
回答已采纳
1
回答
在本地环境中使用
apache
kafka
的事件
数据流
应用程序,并将其移动到AWS
Kafka
以进行预生产/生产
、
是否可以在我的笔记本电脑中使用
kafka
docker在本地使用
apache
kafka
开发事件
数据流
应用程序,然后将应用程序部署到AWS msk (
kafka
),以便仅用于预生产和生产即可节省成本。
浏览 0
提问于2020-02-14
得票数 0
1
回答
java.lang.IllegalArgumentException: KCQL错误occurred.FIELD_ID不是有效的字段名
、
、
、
我已经将数据存储到
kafka
主题中,并且我想使用landoop中的CassandraSinkConnector迁移到cassandra。
浏览 20
提问于2019-08-09
得票数 1
回答已采纳
1
回答
Kafka
中的消息一致性测试场景
、
、
、
、
我正在构建一个POC,它包含一个部署在Kubernetes上的
Kafka
集群和三个spring引导应用程序,它们从
kafka
读取数据并写入jms,反之亦然。
浏览 28
提问于2020-04-21
得票数 0
回答已采纳
1
回答
恢复
事务
性发件箱模式
、
、
、
、
问题排除: 使用跨数据库和消息代理的分布式
事务
来原子地更新数据库和发布消息/事件是不可行的。这意味着,在数据库实体被保存之前,我最终会保持一致性,但是没有数据丢失,因为我在
Kafka
主题中有消息(直到persistance工作再试一次)。
浏览 4
提问于2020-12-16
得票数 0
1
回答
(作为Azure事件中心) ->大查询
、
、
、
、
TDLR;详细信息 为了设置启用
Kafka
的事件中心,我跟踪了有关的详细信息。通过配置这些文件,我可以使用
Kafka
工具和Azure事
浏览 1
提问于2021-05-07
得票数 1
回答已采纳
1
回答
在
事务
中包装StreamBridge发送和JPA保存
、
、
、
我试图包装一个rest服务调用,它使用JPA (CrudRepository.save)将记录保存到DB,然后使用StreamBridge使用spring云流(
kafka
binder)将消息发送到
Kafka
但是,它似乎被忽略了,因为当配置中存在
事务
性id前缀时,StreamBridge似乎在内部创建自己的tx。如果没有
事务
性id前缀,ProducerFactory根本就不是
事务
性的,这将导致KafkaTransactionManager实例化失败。我试图完全避免创建自己的
事务
管理器,但
浏览 2
提问于2021-07-20
得票数 4
回答已采纳
1
回答
通过MongoDB使用Storm bolt或Spark-streaming丰富数据
、
、
、
我想创建一个Storm Spout,它从
Apache
Kafka
的主题中读取数据,并将这些数据发送到连接到MongoDB的Storm bolt,并查询我从
Kafka
收集的消息以丰富数据。例如:我有一个personID (我是通过
Kafka
发来的消息得到的),我想使用这个personID查询MongoDB中的个人地址。在我的MongoDB集合中,每个文档都有personID和地址。
浏览 0
提问于2018-04-18
得票数 0
3
回答
Kafka
Streams -无法重新平衡错误
、
错误之前的日志为:2019-01-21 17:46:32,818 localhost org.
apache
.
kafka
.common.utils.AppInfoParser:
Kafka
commitId : 3402a8361b734732 2019-01
浏览 5
提问于2019-01-22
得票数 3
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
“Kafka技术”Apache Kafka中的事务
“事件驱动架构”Apache Kafka中的事务
“消息中间件”Apache Kafka中的事务
重温 Apache Kafka
Apache Kafka设计理念探究
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券