首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Zzreal的大数据笔记-StormDay02

Storm集群搭建

(1)下载Storm---apache-storm-1.1.1.tar.gz。

(2)解压文件修改storm.yaml添加集群配置信息:

下面指定supervisor工作节点,需要配置该节点可以运行的worker数量,每个worker占用一个端口用于接收消息,最多分配5个;默认情况下每个节点可以运行4个worker,分别在6700、6701、6702、6703端口,这里定义3个端口,代表最多运行3个worker:

下面设置集群主机,让集群中所有的节点可以从主机下载拓扑以及配置文件,主机上运行的就是nimbus,而其他节点就是supervisor进程,这里PC02为nimbus,而PC[03-07]为supervisor,所以配置如下:

下面配置storm集群的drpc地址,这里就是PC02,实际中可以自己定义:

最后配置storm进程的分配内存,默认情况下Storm启动worker进程时,JVM的最大内存是768M,由于在使用过程中,Bolt中加载大量数据,768M内存无法满足要求,会导致内存溢出,应该根据实际情况进行修改,这里设置为2G。

(3)然后在3台主机分别创建上面设置的数据目录,必须都要创建:mkdir -p /usr/data/storm上面的配置是在主节点上配置的,接下来要把storm目录发送到从节点。

(4)使用storm脚本启动相应服务并查看服务状态

主节点bin/storm nimbus &

从节点bin/storm supervisor &

(5)通过web查看storm集群的状态

主节点bin/storm ui &默认端口8080

以上内容均为作者个人笔记,如有错误欢迎指正...

关注CSDN博客 Zonzereal,更多大数据笔记等你...

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180118G0896U00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券