前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >flume使用kafka作为sink

flume使用kafka作为sink

作者头像
用户2936342
发布2018-08-27 14:32:58
9260
发布2018-08-27 14:32:58
举报
文章被收录于专栏:nummynummy

启动kafka

先启动zookeeper:

代码语言:javascript
复制
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

然后启动kafka:

代码语言:javascript
复制
bin/kafka-server-start.sh -daemon config/server.properties

创建topic

代码语言:javascript
复制
 bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

查看创建的topic:

代码语言:javascript
复制
bin/kafka-topics.sh --list --zookeeper localhost:2181

启动消费者

代码语言:javascript
复制
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

配置flume

创建配置文件kafak.conf

代码语言:javascript
复制
a1.sources=r1
a1.channels=c1
a1.sinks=k1


a1.sources.r1.type=netcat
a1.sources.r1.bind=localhost
a1.sources.r1.port=44444

a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = test
a1.sinks.k1.kafka.bootstrap.servers = localhost:9092
a1.sinks.k1.kafka.flumeBatchSize = 20
a1.sinks.k1.kafka.producer.acks = 1
a1.sinks.k1.kafka.producer.linger.ms = 1
a1.sinks.ki.kafka.producer.compression.type = snappy

a1.channels.c1.type=memory
a1.channels.c1.capacity=1000
a1.channels.c1.transactionCapacity=100

a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

启动flume

代码语言:javascript
复制
flume-ng agent -n a1 -c conf/ -f conf/kafka.conf -Dflume.root.logger=INFO, console

发送消息

代码语言:javascript
复制
telnet localhost 44444

随意输入几个字符串,然后再消费者页面将看到传过来的数据

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017.05.24 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 启动kafka
  • 创建topic
  • 启动消费者
  • 配置flume
  • 启动flume
  • 发送消息
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档