KAFKA的安装配置

一、kafka单机部署

1. 上传kafka_1.20-0.10.1.0.tgz到linux

2. 解压

tar -xzvf kafka_1.20-0.10.1.0.gz -C /home/hadoop/work/

3. 在bin下查看脚本

cd /home/hadoop/work/ kafka_1.20-0.10.1.0/bin

在config下查看zookeeper配置文件

cd /home/hadoop/work/ kafka_1.20-0.10.1.0/config

cat zookeeper.properties

4.启动一个单节点zookeeper

在kafka_1.20-0.10.1.0下:bin/zookeeper-server-start.sh config/zookeeper.properties

5.新开一个Xshell客户端连接redhat02

jps 查看zookeeper进程

6.启动一个kafka的server

在kafka_1.20-0.10.1.0下:bin/kafka-server-start.sh config/server.properties

7.新开一个Xshell客户端连接redhat02

jps 查看Kafka进程

8.创建一个kafka的topic

在kafka_1.20-0.10.1.0下:bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test_topic

可通过命令:bin/kafka-topics.sh --list --zookeeper localhost:2181查看topic是否创建成功

9.创建一个console的producer

在kafka_1.20-0.10.1.0下:bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test_topic

这时启动了一个console终端,输入iphone、xiaomi、meizu等测试数据

10.新开一个Xshell客户端连接redhat02

jps 查看ConsoleProducer进程

11.创建一个console的consumer

在kafka_1.20-0.10.1.0下:bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test_topic --from-beginning

查看是否消费到producer创建的消息

12.关掉consumer,再打开consumer

在kafka_1.20-0.10.1.0下:bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test_topic --from-beginning

查看是否消费到producer创建的所有消息

13.关掉consumer,再打开consumer

在kafka_1.20-0.10.1.0下:bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test_topic

查看是否消费到producer创建的所有消息

在producer中创建新消息,比如:huawei、chuizi等,看consumer是否消费到

二、kafka集群部署

1. 确保kafka_1.20-0.10.1.0在redhat01、redhat02、redhat03中都存在

在/home/hadoop/work/ kafka_1.20-0.10.1.0/目录下:

vim config/server.properties

修改broker.id

redhat01的broker.id=0,redhat02的broker.id=1,redhat03的broker.id=2

修改zookeeper.connect=redhat01:2181,redhat02:2181,redhat03:2181

2. 确保redhat01、redhat02、redhat03中的zookeeper都已启动

如果没启动,在/home/hadoop/work/zookeeper-3.4.9/bin/目录下:./zkServer.sh start

3. 启动redhat01、redhat02、redhat03中的kafka

在/home/hadoop/work/kafka_1.20-0.10.1.0/目录下:bin/kafka-server-start.sh config/server.properties

如果出现以下错误:

则删除/tmp/kafka-logs/下的所有文件,在/tmp目录下:rm –r kafka-logs

4.创建一个kafka的topic

在kafka_1.20-0.10.1.0下:bin/kafka-topics.sh --create --zookeeper redhat01:2181 --replication-factor 3 --partitions 2 --topic clusterTopic

可通过命令:bin/kafka-topics.sh --list --zookeeper redhat01:2181查看topic是否创建成功

5.查看topic的描述信息

在kafka_1.20-0.10.1.0下:bin/kafka-topics.sh –describe –zookeeper redhat01:2181 -–topic cluster_topic

6.创建一个console的producer

在kafka_1.20-0.10.1.0下:bin/kafka-console-producer.sh --broker-list redhat01:9092 --topic cluster_topic

7.创建一个console的consumer

新开一个Xshell客户端,在kafka_1.20-0.10.1.0下:bin/kafka-console-consumer.sh --zookeeper redhat01:2181 --topic cluster_topic --from-beginning

8.在producer端输入数据,在consumer端看效果

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏java达人

项目本机部署过程中的若个问题

项目本机部署对老手来说纯粹是一个操作的过程,没有任何的技术难点,因此不会去关注,也不常去操作,有时候换一台计算机,或者在别人的计算机上开发一个新项目,部署的时候...

1805
来自专栏奇梦博客

AppNode面板成功安装Nextcloud后出现安全警告解决办法 原创 PHP 配置

1343
来自专栏java思维导图

全面了解 Nginx 到底能做什么

作者:Raye 链接:http://www.raye.wang/2017/02/24/quan-mian-liao-jie-nginxdao-di-neng-z...

793
来自专栏云计算教程系列

如何在Ubuntu 14.04上安装VestaCP并设置网站

Vesta控制面板是一个免费的开源网站控制面板,内置网站,电子邮件,数据库和DNS功能。在本教程结束时,我们将在Ubuntu 14.04上安装并运行Vesta,...

651
来自专栏魏豪的专栏

LNMP平台的搭建

LNMP指的是多款软件的集合。L指的是Linux系统,N指的是Nginx网站服务器,M指的是Mariadb数据库软件,P指的是php软件。Linux目前是一款最...

4980
来自专栏韦弦的微信小程序

微信小程序设置图片固定比例

有时我们的图片并不是同一个比例,但是我们需要设置图片保持一个固定的比例,在小程序里面因为宽度固定为750rpx,所以我们如果需要设置宽高比为2 : 1的话直接设...

822
来自专栏静下来

nginx安装lua模块 出现libluajit-5.1.so.2错误的解决方法

nginx在单独安装lua模版的时候,出现一个错误,我不知道其他人有没有遇到过。 编译都没有问题,就是在nginx -t检查的时候,有以下错误: nginx: ...

3215
来自专栏程序生活

Python爬虫系列(六)外国图库Unsplash图片自动化下载

再做一个网站,要找一些高清图片,然后同学推荐了这个网站:Unsplash 。但是每张图片下载要手动点,然后下拉加载更多图片,效率不高,所以自己写了爬虫程序,进...

4429
来自专栏容器云生态

Moosefs分布式文件系统集群讲解配置

MFS的官方网站为http://www.moosefs.org ,详细信息您可以去官网进行更多的了解,在这里我只将简单的知识和大家分享。 MFS的网络组成有三部...

2585
来自专栏Youngxj

[网站搭建]实战win2003搭建asp网站

1404

扫码关注云+社区