腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(2343)
视频
沙龙
1
回答
在
Kafka
连接
S3
连
接器中用空内数组处理消息
、
、
、
我使用
Kafka
连接和两个连接器:在运行时,我从
S3
连
接器中得到了这个错误"behavior.on.null.values": "ignore", "errors.tolerance": &q
浏览 2
提问于2021-05-11
得票数 2
2
回答
Confluent Connect :同步运行多个接收器连接器
、
、
我们使用连
接到
Kafka
的
S3
接收器连接器,并将数据加载到
S3
buckets.Now --我希望使用Copy命令将数据从
S3
存储桶加载到are,因为我正在创建自己的自定义connector.Use情况--我希望以同步方式加载通过
S3
创建的数据到Redshift,下一次
S3
连
接器应该替换现有文件,并再次将数据加载到
S3
。
浏览 0
提问于2018-08-17
得票数 0
回答已采纳
2
回答
用于与
Kafka
连接的
S3
连
接器,用于将数据从本地传输到云
、
、
、
我想使用
Kafka
将数据从本地流式传输到云(
S3
)。为此,我需要在源机和云上安装
kafka
。但我不想把它放在云端。我需要一些
S3
连
接器,通过它我可以与
kafka
连接,并将数据从本地传输到云。
浏览 1
提问于2017-03-29
得票数 2
1
回答
使用python将数据从
kafka
发送到
s3
、
、
对于我的当前项目,我正在使用
Kafka
(python),并想知道是否有任何方法可以将流式
Kafka
数据发送到AWS
S3
桶(而不使用汇流)。我从Reddit API获得我的源数据。我甚至想知道
Kafka
+s3是否是一个很好的组合,用于存储数据,这些数据将使用pyspark进行处理,或者我应该跳过
s3
步骤,直接从
Kafka
读取数据。
浏览 5
提问于2022-08-28
得票数 0
2
回答
如何将Apache与亚马逊
S3
连
接起来?
、
、
、
我想要存储数据从卡夫卡到桶
s3
使用卡夫卡连接。我已经有了一个卡夫卡的主题运行,我有一个桶
s3
创建。:421) atorg.apache.
kafka
.connect.runtime.WorkerTask.doRun(WorkerTask.java:140) at org.apache.
kafka
.connect.run
浏览 0
提问于2018-10-03
得票数 9
回答已采纳
1
回答
使用
kafka
key的
kafka
s3
连
接器分区
、
如何在
s3
连
接器中使用
kafka
msg key作为分区标准,或者如何获取key并将其存储在
s3
对象中,谢谢!
浏览 18
提问于2020-08-24
得票数 0
回答已采纳
3
回答
如何在Minikube运行
Kafka
-Connect?
、
、
要在本地mac中运行cps3
连
接以使用
kafka
主题,我做了如下操作ML-C02Z605SLVDQ:
kafka
_2.12e192270$ cd
kafka
_2.12-2.5.0 ML-C02Z605SLVDQ:
kafka
_2.12-2.5.0 e192270$ bin/connect-stand
浏览 3
提问于2020-05-23
得票数 1
2
回答
阅读由debezium postgres连接填充的Docker
Kafka
消息
、
、
、
55=消费者-1,群55=控制台-消费者-5221
连
接到
节点-1 (
kafka
/23.202.231.166:9092)。(org.apache.
kafka
.clients.NetworkClient) 2019-06-03 21:55:16,289警告消费者客户55=消费者-1,群55=控制台-消费者-5221
连
接到
节点(org.apache.
kafka
.clients.NetworkClient) 2019-06-03 21:55:16,443警告消费者客
浏览 2
提问于2019-06-04
得票数 0
1
回答
安装AuthenticationSupport连接器后缺少
S3
服务
、
我通过包共享安装了AEM的
S3
连
接器(COM.ADOBE.GRANITE.OAK.S3CONNECTOR),现在我的AEM实例被块化了。
浏览 0
提问于2017-04-06
得票数 2
回答已采纳
1
回答
从ms sql server到
s3
存储桶的
Kafka
文件传输?
、
、
、
当一个文件被写入到MS SQL Server中的表中时,我希望通过
Kafka
s3
连
接器将其写入/传输到Minio bucket。可以通过
Kafka
实现吗?
浏览 2
提问于2020-05-15
得票数 0
1
回答
kafka
s3
接收器连接器在获取空数据时崩溃
、
、
、
、
我有一个工作的
s3
接收器连接器,直到源连接器发送一个空值;
s3
连
接器崩溃。当我从MS SQL数据库中删除记录时出现问题。源连接器将删除信息发送到
s3
连
接器,
s3
连
接器崩溃。我删除并重新创建了具有不同名称的
s3
连
接器,没有任何更改。) [task-thread-minio-connector1-0] apiVersion:
kafka
.s
浏览 0
提问于2020-05-24
得票数 4
1
回答
AWS MSK - AWS RDS的Debezium Postgres连接器-连接
失败
、
、
rds.amazonaws.com:5432/ecommerce与用户“debezium”(io.debezium.connector.postgresql.PostgresConnector:133)的连接
失败
我已经在EC2上使用
Kafka
客户端测试了AWS连接器,我能够生成和使用消息。我还设置了AWS
S3
Sink连接器,这也是工作。我不知道是什么导致了这个问题。.
kafka
.ap-south-1.amaz
浏览 11
提问于2022-01-19
得票数 0
2
回答
如何使用Apache、Amazon和Amazon
S3
创建数据蛋糕?
、
、
、
、
我想将卡夫卡主题的所有数据存储到亚马逊
S3
中。我有一个
Kafka
集群,它每秒在一个主题中接收200.000条消息,每个值消息有50个字段(字符串、时间戳、整数和浮点数)。我的主要想法是使用将数据存储在一个存储桶
s3
中,然后使用Amazon将数据转换成另一个存储桶。我还有下一个问题:2)我试着使用来自汇合的
Kafka
Connect,但我有几个问题: 我能连
接到
我的卡夫卡集群从其他卡夫卡实例,并以独立的方
浏览 0
提问于2018-10-05
得票数 0
回答已采纳
1
回答
Kafka
连接消费者引用偏移量并存储在消息中
、
如果我使用
kafka
-connect来消费消息并将其存储到
s3
(使用
kafka
-connect
s3
连
接器),是否可以将消息偏移量与事件有效负载一起存储?(例如,如果我的消费者偏移量意外崩溃,我重新启动了
kafka
-connect)。这是可能的,还是我应该为这种类型的功能编写一个自定义订阅者?
浏览 13
提问于2020-05-13
得票数 2
回答已采纳
1
回答
如何使用json的字段和基于时间的分区为json配置
kafka
s3
接收器连接器?
、
、
、
如下所示: "app" : "hw", "time" : "2018-05-06 12:53:04"我希望推送到
S3
浏览 12
提问于2018-09-07
得票数 3
1
回答
卡夫卡与自定义timestamp.extractor连接
、
、
当我试图读取从
Kafka
到
S3
的消息时,我在向
Kafka
连接类路径添加jar时遇到了问题。org.apache.
kafka
.common.config.ConfigException: Invalid timestamp extractor: partitioner.SpotadDateTimeExtractor开始指挥: sudo /home/ubuntu/conflue
浏览 1
提问于2017-12-18
得票数 4
回答已采纳
1
回答
为kerberos提供GSSAPI的
Kafka
SASL_PLAINTEXT
、
、
、
我试图使用SASL和GSSAPI使用明文运行一个
kafka
服务器,但是出错。2018-10-03 16:08:54,220错误控制器id=0,targetBrokerId=0
连
接到
节点0的身份验证
失败
,原因是:错误:(java.security.PrivilegedActionException: javax.security.sasl.SaslException: GSS启动
失败
由GSSException:未提供有效凭据引起)在评估从
Kafka
Broker收到的SASL令牌时发生。(
浏览 2
提问于2018-10-03
得票数 0
1
回答
Kafka
日志聚合与处理
、
、
嗨,我正在尝试使用
Kafka
作为日志聚合器和过滤层,以便他们输入到Splunk中。
Kafka
的输入端将是
Kafka
S3
连
接器和其他连接器,从
S3
和Amazon Kinesis Data streams.See获取日志这张图片供参考: ? 然而,我想知道的是在
Kafka
数据管道内进行处理或过滤,是否有必要做Spark作业?或者,这可以通过一个简单的
Kafka
streams应用程序来完成,如果我们必须为几个不同的日志进行这种设计,那么这将是一个有
浏览 24
提问于2021-08-05
得票数 0
回答已采纳
1
回答
将事件写入
kafka
文件的最佳方法
、
我正在创建一个nodejs库,它读取
kafka
中的事件并将它们推入文件中。计划是将数据推送到文件到达,例如,100 or(或2000事件)。我的问题是: 已经有一个库可以这样做了吗?
浏览 7
提问于2022-07-03
得票数 0
1
回答
kafka
连
接到
s3
失败
、
、
、
我正在尝试配置
kafka
-connect,以便将我的数据从
kafka
发送到
s3
。我是
kafka
方面的新手,我试图在没有任何ssl加密的情况下实现这个流程,只是为了掌握它的诀窍。
kafka
version : 2.12-2.2.0
kafka
-connect : 4.1.1 (https://api.hub.confluent.io/api/plugins/confluentinc=org.apache.
kafka
.con
浏览 389
提问于2020-04-13
得票数 0
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券