腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(2536)
视频
沙龙
1
回答
如
何为
我
的
kafka
消费者
利用
现
有的
avro
模式
?
、
、
、
、
我
使用Debezium SQL Server Connector进行更改数据捕获,连接器自动生成
模式
并在
模式
注册表中注册该
模式
,这意味着
我
没有
avro
模式
文件。在这种情况下,
我
如何编写一个使用此
模式
读取数据
的
消费者
?
我
见过很多使用
avro
模式
文件为
消费者
读取数据
的
文章,并且在
模式
注册表中只有一
浏览 33
提问于2021-02-05
得票数 0
回答已采纳
2
回答
我
如何记录卡夫卡
的
信息,不兼容卡夫卡
消费者
的
阿夫罗
模式
?
、
、
、
我
需要记录到达
Kafka
使用者
的
消息,因为对于
Kafka
消费者
,没有
Avro
模式
兼容性。
我
想,默认情况下,
Avro
不兼容
的
消息永远不会到达
我
的
Kafka
消费者
代码。
我
使用Spring
的
@KafkaListener。
浏览 11
提问于2021-12-07
得票数 0
1
回答
如何从apache生成卡夫卡主题中
的
Avro
信息,然后使用
kafka
流阅读?
、
、
我
想使用apache在
kafka
主题中生成一些通用数据,
我
希望这些数据是
avro
格式
的
。
我
为它所做
的
: 由: org.apache.
kafka
.common.error
浏览 1
提问于2018-10-09
得票数 1
回答已采纳
1
回答
如何处理
Kafka
模式
演变
、
、
我
是
kafka
的
新手,.Here是
我
对不断变化
的
kafka
模式
的
疑问。
我
很有兴趣知道全行业
的
实践来处理这种情况。
我
不会为
avr
浏览 0
提问于2020-04-26
得票数 0
1
回答
带有本地
模式
文件
的
Kafka
Avro
反序列化器
、
、
、
背景:
我
使用SpringKafka来实现基于
Avro
的
消费者
和生产者。其他重要组件:
Kafka
-Broker、Zookeeper和Schema-注册表在码头容器中运行。这对
我
来说很好。
我
想要
的
是:
我
想要一个
Kafka
Avro
反序列化器(在使用者中),它应该独立于
模式
注册中心。在
我
的
例子中,
我
有一个不会更改
的
浏览 9
提问于2022-04-26
得票数 0
回答已采纳
2
回答
如何用弹簧引导和弹簧云流在
kafka
生产者上设置
avro
内容类型
、
、
我
试图用
avro
消息生产者、
kafka
和
avro
消费者
构建一个使用spring引导、spring云流
模式
注册表和
kafka
绑定器
的
工作示例。o.s.c.s.b.k.KafkaMessageChannelBinder :无法使用contentType java.lang.NullPointerException反序列化io.igx.android.Sensor
我
有
消费者
端
的
spring.cloud.
浏览 6
提问于2017-03-09
得票数 1
2
回答
反序列化没有
模式
注册中心
的
kafka
消息
、
、
我
正在写一个
kafka
消费者
,应该反序列化来自
avro
的
传入消息。
我
确实有消息
的
模式
,
我
想知道在vanilla
kafka
中反序列化这些消息
的
最好方法是什么。
我
搜索了一段时间,但我看到
的
所有示例都是针对文件反序列化
的
,比如这个http://
avro
.apache.org/docs/1.9.
浏览 33
提问于2020-08-07
得票数 2
1
回答
Kafka
Avro
序列化程序,忽略序列化异常
、
、
我
使用
的
是
kafka
-
avro
-serializer-6.0.0.jar。当我遇到反序列化事件
的
异常时,
我
的
使用者会停止并且不会移动到下一个事件。这些问题通常是由生产者
的
错误引起
的
,并且由于使用新
的
avro
模式
注册服务器
的
问题而发生。示例: org.apache.
kafka
.common.errors.SerializationException
浏览 0
提问于2020-11-29
得票数 0
1
回答
获取架构反序列化错误:字段
的
默认无效
、
、
、
、
在运行
kafka
消费者
时,
我
得到了以下错误:Caused by: org.apache.
avro
.AvroTypeException: Invalid default for field key_id(Schema.java:1512) at org.apache.
浏览 1
提问于2019-07-18
得票数 6
回答已采纳
1
回答
Kafka
与异构消息
、
、
我
正在做一些关于
Kafka
和
Avro
的
研究,
我
有一个关于如何使用
Kafka
处理异构消息
的
问题。 为每个架构创建一个主题?但如果我们有更多
的
模式
听起来不是个好主意..。将
模式
名称(或像email_sent或user_logged_in这样
的
标
浏览 2
提问于2015-07-08
得票数 0
2
回答
如何从
Kafka
主题中转储
avro
数据并在Java/Scala中读取
、
为了测试目的,我们需要从
Kafka
主题导出生产数据:数据是用
Avro
编写
的
,
模式
被放在schema注册表中。我们甚至不知道要选择哪个解析选项(不是
avro
,不是json)
浏览 0
提问于2018-03-03
得票数 1
1
回答
使用
avro
的
Kafka
控制台生产商
、
、
我
正试图使用apache-
kafka
二进制文件中
的
kafka
-控制台-生产者来生成消息,并在春季启动时从
消费者
设置中消费。使用者使用
avro
架构。当以json格式生成消息时,
我
的
使用者抛出异常--“无法序列化”。
我
找到了一个解决方案来使用“7.1”,其中有
kafka
-
avro
-console-producer。它支持
avro
,但它是企业版。是否有一种方法可以使用apache-<e
浏览 6
提问于2022-04-26
得票数 0
回答已采纳
1
回答
如何强制
Kafka
消费者
使用特定版本
的
模式
?
、
、
、
、
我们有多个版本
的
主题
模式
,消息采用
AVRO
格式。 据我所知,当
消费者
收到
AVRO
消息时,消息本身包含一个id,该id将用于从
模式
注册表中检索
模式
,并在本地缓存以供将来参考。
我
很想知道是否有一种方法可以绕过这个id查询,并且总是使用一个预先获得
的
模式
(例如最新
的
模式
)来解析
消费者
端
的
所有消息?我们使用
的
反序列化程序是io.conf
浏览 25
提问于2021-09-17
得票数 0
1
回答
如何创建AvroDeserialzationSchema并在Flink
Kafka
Consumer中使用?
、
、
我
正在尝试创建一个
kafka
avro
序列化主题
的
flink
消费者
。
我
有
kafka
主题流式
avro
序列化数据。
我
可以通过avroconsoleconsumer看到它。
我
有一个通过
avro
-tools生成
的
avro
类。 现在,
我
一直在尝试遵循现
有的
例子,但它们之间
的
差异足够大,以至于我无法让事情继续下去。jar生
浏览 15
提问于2018-08-20
得票数 0
1
回答
什么是日期
的
c#
AVRO
架构
、
、
我
有一个java
kafka
streams应用程序,它使用由C#应用程序产生
的
avro
事件。在C#上,它是一个内置
的
avro
库。对于日期类型字段,它在没有logicalType
的
情况下生成
avro
模式
到{ "name": "dateOfBirth", "type": "int" }。显然,这会给java
消费者
带来麻烦。
我</em
浏览 0
提问于2020-05-13
得票数 0
1
回答
带有解码器问题
的
Kafka
Avro
消费者
、
、
、
、
当我尝试使用
我
各自
的
模式
对数据运行时,它返回错误"AvroRuntimeException:格式错误
的
数据。长度为负:-40“。
我
看到其他人也遇到过类似的问题:、和。
我
还引用了这个,它们都很有帮助,但是到目前为止对这个错误没有任何帮助。它一直运行到这部分代码(第73行)
我
已经尝试了其他解码器,并打印出了
avro
浏览 0
提问于2016-03-16
得票数 11
回答已采纳
1
回答
从Logastash发送到
Kafka
和
Avro
、
、
、
、
我
试图使用
avro
模式
将数据从logstash发送到
kafka
。
我
的
logstash输出看起来如下: codec =>
avro
{ }}
我
的
浏览 5
提问于2020-04-22
得票数 1
回答已采纳
2
回答
AVRO
的
二进制编码是否压缩数据?
在我们
的
一个项目中,我们正在使用
Kafka
和
AVRO
在应用程序之间传输数据。将数据添加到
AVRO
对象,并对对象进行二进制编码以写入
Kafka
。我们使用二进制编码,因为与其他格式相比,它通常被认为是最小
的
表示形式。 数据通常是JSON字符串,当数据保存到文件中时,它最多使用10Mb
的
磁盘。但是,当文件被压缩(.zip)时,它只使用很少
的
KB。我们关心
的
是将这些数据存储在
Kafka
中,因此在写入
Kafka</em
浏览 1
提问于2014-11-03
得票数 18
回答已采纳
2
回答
我们需要手动缓存
模式
注册表吗?
、
、
、
、
我们目前正在使用协议缓冲区作为kafak消息
的
序列化机制。我们要搬到阿夫罗去。我们用Schema测试了
Avro
汇合
消费者
,根据这些测试,
Avro
使用者与原型
消费者
相比有点慢。
我
的
问题是,我们需要手动兑现
模式
还是Python AvroConsumer自行处理现金?
我
用
的
是confluent_
kafka
AvroConsumer。
浏览 0
提问于2018-05-04
得票数 0
回答已采纳
1
回答
为什么Apache
Kafka
使用者会使用不同版本
的
模式
来反序列化记录,而不是随数据一起发送
的
记录?
、
假设
我
在向
kafka
发送数据时使用了
Avro
序列化。 在使用Apache
Kafka
的
记录时,
我
同时获得了
模式
和记录。
我
可以使用
模式
来解析记录。
我
不明白为什么
消费者
会使用不同版本
的
模式
来反序列化记录。有人能帮帮忙吗?
浏览 12
提问于2020-09-24
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
深入理解Kafka Connect:转换器和序列化
如何将kafka中的数据快速导入Hadoop?
“事件驱动架构”Kafka中的模式注册表和模式演化
为什么BAT互联网都爱用kafka?看完你就知道了
大数据流处理:Flume、Kafka和NiFi对比
热门
标签
更多标签
云服务器
ICP备案
对象存储
云直播
实时音视频
活动推荐
运营活动
广告
关闭
领券