前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Flume使用案例

Flume使用案例

作者头像
编程那点事
发布2023-02-25 15:17:31
2110
发布2023-02-25 15:17:31
举报
文章被收录于专栏:java编程那点事

先用一个最简单的例子来测试一下程序环境是否正常

1、 先在flume的conf目录下新建一个文件

vi netcat-logger.conf

代码语言:javascript
复制
#定义这个agent中各组件的名字

a1.sources = r1

a1.sinks = k1

a1.channels = c1

# 描述和配置source组件:r1

a1.sources.r1.type = netcat

a1.sources.r1.bind = localhost

a1.sources.r1.port = 44444

# 描述和配置sink组件:k1

a1.sinks.k1.type = logger

# 描述和配置channel组件,此处使用是内存缓存的方式

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000 内存里面存放1000个事件

a1.channels.c1.transactionCapacity = 100

# 描述和配置source  channel   sink之间的连接关系

a1.sources.r1.channels = c1

a1.sinks.k1.channel = c1

2、 启动agent去采集数据

代码语言:javascript
复制
bin/flume-ng agent -c conf -f conf/netcat-logger.conf -n a1  -Dflume.root.logger=INFO,console

-c conf   指定flume自身的配置文件所在目录

-f conf/netcat-logger.con  指定我们所描述的采集方案

-n a1  指定我们这个agent的名字

-Dflume.root.logger=INFO,console 运行日志输出到控制台,那么把该条删除就可以按照log4j的配置输出到对应日志文件中,如果没有输出到对应日志文件,那么看下flume的lib包中是否含有log4j的依赖jar包

3、 测试

启动nc的客户端

代码语言:javascript
复制
​​​$>nc localhost 44444

$nc>hello world

​在flume的终端输出hello world.

先要往agent采集监听的端口上发送数据,让agent有数据可采

随便在一个能跟agent节点联网的机器上

4、 补充安装nc

代码语言:javascript
复制
$>sudo yum install nmap-ncat.x86_64

清除仓库缓存

代码语言:javascript
复制
​$>修改ali.repo --> ali.repo.bak文件。

​$>sudo yum clean all

​$>sudo yum makecache
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019-01-23,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档