前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop生态圈和各组件的启动、关闭脚本介绍

Hadoop生态圈和各组件的启动、关闭脚本介绍

原创
作者头像
挖掘大数据
发布2018-01-17 18:09:54
1.3K0
发布2018-01-17 18:09:54
举报
文章被收录于专栏:挖掘大数据

Hadoop生态圈各组件的启动及关闭脚本,虽然有些使用频率不高,不容易记住,这里特地整理出来,大家可以先保存,用的时候就方便了。

1. Hdfs (v 2.7.3)

1.1.启动集群

代码语言:javascript
复制
sbin/start-dfs.sh

注:这个启动脚本是通过ssh对多个节点的namenode、datanode、journalnode以及zkfc进程进行批量启动的。

1.2.启动NameNode

代码语言:javascript
复制
sbin/hadoop-daemon.sh start namenode

1.3.启动DataNode

代码语言:javascript
复制
sbin/hadoop-daemon.sh start datanode

1.4.停止集群

代码语言:javascript
复制
sbin/stop-dfs.sh

1.5.停止单个进程

代码语言:javascript
复制
sbin/hadoop-daemon.sh stop zkfc
sbin/hadoop-daemon.sh stop journalnode
sbin/hadoop-daemon.sh stop datanode
sbin/hadoop-daemon.sh stop namenode

2. Yarn (v 2.7.3)

2.1.启动集群

代码语言:javascript
复制
sbin/start-yarn.sh

注:start-yarn.sh启动脚本只在本地启动一个ResourceManager进程,而3台机器上的nodemanager都是通过ssh的方式启动的。

2.2.启动ResouceMananger

代码语言:javascript
复制
sbin/yarn-daemon.sh start resourcemanager

2.3.启动NodeManager

代码语言:javascript
复制
sbin/yarn-daemon.sh start nodemanager

2.3.启动JobHistoryServer

代码语言:javascript
复制
sbin/yarn-daemon.sh start historyserver

2.4.停止集群

代码语言:javascript
复制
sbin/stop-yarn.sh

2.5.停止单个节点

代码语言:javascript
复制
sbin/yarn-daemon.sh stop resourcemanager
sbin/yarn-daemon.sh stop nodemanager

3. Zookeeper (v 3.4.5)

3.1.启动集群

代码语言:javascript
复制
bin/zkServer.sh start

3.2.启动单个节点

代码语言:javascript
复制
bin/zkServer.sh start

3.3.启动客户端

代码语言:javascript
复制
bin/zkCli.sh -server master:2181

4.Kafka (v 2.10-0.10.1.1)

4.1.启动集群

代码语言:javascript
复制
bin/kafka-server-start.sh -daemon config/server.properties

4.2.启动单个节点

代码语言:javascript
复制
bin/kafka-server-start.sh -daemon config/server.properties

4.3.创建Topic

代码语言:javascript
复制
bin/kafka-topics.sh --create --zookeeper master:2181 --replication-factor 1 --partitions 1 --topic test

4.4.列出Topic

代码语言:javascript
复制
bin/kafka-topics.sh --list --zookeeper master:2181

4.5.生产数据

代码语言:javascript
复制
bin/kafka-console-producer.sh --broker-list master:9092 --topic test

4.6.读取数据

代码语言:javascript
复制
bin/kafka-console-consumer.sh --zookeeper master:2181 --topic test --from-beginning

5.Hbase (v 1.2.4)

5.1.启动/停止集群

代码语言:javascript
复制
bin/start-hbase.shbin/stop-hbase.sh

5.2. 启动/停止HMaster

代码语言:javascript
复制
bin/hbase-daemon.sh start masterbin/hbase-daemon.sh stop master

5.3. 启动/停止HRegionServer

代码语言:javascript
复制
bin/hbase-daemon.sh start regionserverbin/hbase-daemon.sh stop regionserver

5.2.启动Shell

代码语言:javascript
复制
bin/hbase shell

6.Spark (v 2.1.0-bin-hadoop2.7)

6.1.启动程序

6.1.1. 本地

代码语言:javascript
复制
bin/spark-shell --master local

6.1.2.Standalone

代码语言:javascript
复制
bin/spark-shell --master spark://master:7077

6.1.3. Yarn Client

代码语言:javascript
复制
bin/spark-shell --master yarn-client

6.1.4. Yarn Cluster

代码语言:javascript
复制
bin/spark-shell --master yarn-cluster

7. Flume

7.1启动Agent

代码语言:javascript
复制
bin/flume-ng agent -n LogAgent -c conf -f conf/logagent.properties -Dflume.root.logger=DEBUG,console

8.Sqoop

8.1.导入

代码语言:javascript
复制
sqoop import \
--connect jdbc:mysql://mysql.example.com/sqoop \
--username sqoop \
--password sqoop \
--table cities

8.2.导出

代码语言:javascript
复制
sqoop export \
--connect jdbc:mysql://mysql.example.com/sqoop \
--username sqoop \
--password sqoop \
--table cities \
--export-dir cities

9.Hive

9.1. 启动Shell

代码语言:javascript
复制
hive -h <host> -p <port>
beeline -u jdbc:hive2://<host>:<port>

10. Mysql

10.1.启动Shell

代码语言:javascript
复制
mysql -u<user> -p<password>

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档