前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >发送kafka消息的shell脚本

发送kafka消息的shell脚本

作者头像
程序员欣宸
发布2020-03-18 17:19:19
2.4K0
发布2020-03-18 17:19:19
举报
文章被收录于专栏:实战docker

开发和学习时需要造一些kafka消息,于是写了段脚本实现,在这里记录备忘,后面会常用到;

环境信息

  1. Kafka:2.0.1
  2. Zookeeper:3.5.5
  3. shell脚本运行环境:MacBook Pro (系统:10.15.3 (19D76))

脚本内容

  1. 下面是脚本sendmessage.sh的内容,带有详细注释:
代码语言:javascript
复制
#!/bin/sh

#响应Ctrl+C中断
trap 'onCtrlC' INT
function onCtrlC () {
    echo 'Ctrl+C is captured'
    exit 1
}

#kafka所在目录
kafkaPath=/Users/zhaoqin/temp/202003/07/kafka_2.11-2.0.1
#broker
brokerlist=192.168.50.135:31090,192.168.50.135:31091,192.168.50.135:31092
#kafka的topic
topic=test001
#消息总数
totalNum=10000
#一次批量发送的消息数
batchNum=100
#该标志为true,表示文件中的第一条记录
firstLineFlag='true'

for ((i=1; i<=${totalNum}; i ++))  
do  
	#消息内容,请按照实际需要自行调整
    messageContent=batchmessage-${i}-`date "+%Y-%m-%d %H:%M:%S"`

    #如果是每个批次的第一条,就要将之前的内容全部覆盖,如果不是第一条就追加到尾部
    if [ 'true' == ${firstLineFlag} ] ; then
      echo ${messageContent} > batchMessage.txt

      #将标志设置为false,这样下次写入的时候就不会清理已有内容了
      firstLineFlag='false'
    else
      echo ${messageContent} >> batchMessage.txt
    fi

    #取余数
    modVal=$(( ${i} % ${batchNum} ))

    #如果达到一个批次,就发送一次消息
    if [ ${modVal} = 0 ] ; then
      #在控制台显示进度
      echo “${i} of ${totalNum} sent”

      #批量发送消息,并且将控制台返回的提示符重定向到/dev/null
      cat batchMessage.txt | ${kafkaPath}/bin/kafka-console-producer.sh --broker-list ${brokerlist} --sync --topic ${topic} | > /dev/null

      #将标志设置为true,这样下次写入batchMessage.txt时,会将文件中的内容先清除掉
      firstLineFlag='true'
    fi
done
  1. kafkaPath是客户端电脑上kafka安装的路径,请按实际情况修改;
  2. brokerlist是远程kafka信息,请按实际情况修改;
  3. topic是要发送的消息Topic,必须是已存在的Topic;
  4. totalNum是要发送的消息总数;
  5. batchNum是一个批次的消息条数,如果是100,表示每攒齐100条消息就调用一次kafka的shell,然后逐条发送;
  6. messageContent是要发送的消息的内容,请按实际需求修改;

运行脚本

  1. 给脚本可执行权限:chmod a+x sendmessage.sh
  2. 执行:./sendmessage.sh
  3. 每到一百条会有一次进度提醒:
代码语言:javascript
复制
(base) zhaoqindeMBP:07 zhaoqin$ ./sendmessage5.sh
“100 of 10000 sent”
“200 of 10000 sent”
“300 of 10000 sent”
“400 of 10000 sent”
“500 of 10000 sent”
“600 of 10000 sent”
“700 of 10000 sent”
“800 of 10000 sent”
...
  1. 用shell命令消息此消息:
代码语言:javascript
复制
./kafka-console-consumer.sh \
--bootstrap-server 192.168.50.135:31090 \
--topic test001 \
--from-beginning
  1. 可以看到内容符合预期:
在这里插入图片描述
在这里插入图片描述
  1. 如果安装了监控,也能看到消息发送正常:
在这里插入图片描述
在这里插入图片描述
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 环境信息
  • 脚本内容
  • 运行脚本
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档