前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Ubuntu 18.04 安装 Hadoop系统环境

Ubuntu 18.04 安装 Hadoop系统环境

作者头像
吟风者
发布2019-07-24 14:46:25
7110
发布2019-07-24 14:46:25
举报
文章被收录于专栏:吟风者吟风者

安装ubuntu-server系统

安装系统

选择系统语言-English

键盘设置-Chinese

选择操作Install ubuntu

设置网络(这里选择默认)

选择Done

文件系统设置-选择使用整个磁盘

选择磁盘

选择Done

选择继续Continue

配置文件设置

正在安装

Reboot Now

安装ssh环境

配置root用户密码

修改root用户的初始密码

代码语言:javascript
复制
sudo passwd

退出当前用户,使用root登陆系统。

关闭防火墙

关闭防火墙

代码语言:javascript
复制
systemctl stop firewalld.service

开机不启动防火墙

代码语言:javascript
复制
systemctl disable firewalld.service

查看防火墙状态

代码语言:javascript
复制
ufw status

inactive状态是防火墙关闭状态,active是开启状态。

配置root用户远程连接

(注:装了ssh-server,如果未安装,请先安装)

代码语言:javascript
复制
apt-get install openssh-server

修改sshd_config

代码语言:javascript
复制
vim /etc/ssh/sshd_config

找到

代码语言:javascript
复制
# Authentication:
LoginGraceTime 120
PermitRootLogin without passwd
StrictModes yes

改成

代码语言:javascript
复制
# Authentication:
LoginGraceTime 120
PermitRootLogin yes
StrictModes yes

然后重启SSH服务即可。

重启过后通过shell连接:

设置ssh localhost 免密码登录

代码语言:javascript
复制
ssh localhost
exit

输入密码登录本机和退出本机

在进行了初次登陆后,会在当前家目录用户下有一个.ssh文件夹,进入该文件夹下:

代码语言:javascript
复制
cd ~/.ssh/

使用rsa算法生成秘钥和公钥对:

代码语言:javascript
复制
ssh-keygen -t rsa

运行后一路回车就可以了,其中第一个是要输入秘钥和公钥对的保存位置,默认是在:

代码语言:javascript
复制
.ssh/id_rsa

然后把公钥加入到授权中:

代码语言:javascript
复制
cat ./id_rsa.pub >> ./authorized_keys

再次ssh localhost的时候就可以无密码登陆了。

安装jdk

解压jdk

创建一个java的文件夹,用户存放Java文件

代码语言:javascript
复制
mkdir /usr/local/java

通过ftp工具把下载好的jdk安装包上传到java文件夹下。

解压:

代码语言:javascript
复制
cd /usr/local/java
tar -vxzf jdk-8u181-linux-x64.tar.gz

解压成功后会在当前目录下看到:

jdk1.8.0_181文件夹

然后删除安装包:

代码语言:javascript
复制
rm jdk-8u181-linux-x64.tar.gz

配置jdk

设置环境变量:

代码语言:javascript
复制
vim /etc/profile

在末尾添加:

代码语言:javascript
复制
JAVA_HOME=/usr/local/java/jdk1.8.0_181
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
export JAVA_HOME
export PATH

重新加载环境变量的配置文件:

代码语言:javascript
复制
source /etc/profile

检测:

代码语言:javascript
复制
java -version

安装Hadoop

解压hadoop

创建一个hadoop的文件夹,用户存放hadoop文件

代码语言:javascript
复制
mkdir /usr/local/hadoop

通过ftp工具把下载好的hadoop安装包上传到hadoop文件夹下。

解压:

代码语言:javascript
复制
cd /usr/local/hadoop
tar -vxzf hadoop-2.7.7.tar.gz

解压完成:

移动hadoop-2.7.7文件下的文件到当前的目录

代码语言:javascript
复制
mv ./hadoop-2.7.7/* ./

删除hadoop-2.7.7文件夹

代码语言:javascript
复制
rm -rf ./hadoop-2.7.7

查看文件夹的所有者以及用户组,最重要的是拥有者是否是当前用户

如果拥有者不是当前用户,则修改为当前用户:

代码语言:javascript
复制
sudo chown -R 当前用户名 ./hadoop

配置hadoop

设置环境变量:

代码语言:javascript
复制
vim /etc/profile

在末尾添加:

代码语言:javascript
复制
JAVA_HOME=/usr/local/java/jdk1.8.0_181
HADOOP_HOME=/usr/local/hadoop
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME
export PATH
export HADOOP_HOME

重新加载环境变量的配置文件:

代码语言:javascript
复制
source /etc/profile

检测:

代码语言:javascript
复制
hadoop version

修改配置文件

在core-site.xml 中添加

代码语言:javascript
复制
<!-- 指定HDFS老大(namenode)的通信地址 -->
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://0.0.0.0:9000</value>
</property>
<!-- 指定hadoop运行时产生文件的存储路径 -->
<property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/hadoop/tmp</value>
 </property>
<property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/hadoop/tmp</value>
</property>

在 hdfs-site.xml 中添加

代码语言:javascript
复制
<property>
    <name>dfs.data.dir</name>
    <value>/usr/local/hadoop/hdfs/data</value>
    <description>datanode上数据块的物理存储位置</description>
</property>

<!-- 设置hdfs副本数量 -->
<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>

<property>
    <name>dfs.permissions</name>
    <value>false</value>
</property>

在 hadoop-env.sh 中更改 JAVA_HOME

注释掉:

代码语言:javascript
复制
export JAVA_HOME=${JAVA_HOME}

添加:

代码语言:javascript
复制
export JAVA_HOME=/usr/local/java/jdk1.8.0_181

测试,启动

格式化namenode:

代码语言:javascript
复制
hadoop namenode -format

启动hdfs

代码语言:javascript
复制
start-all.sh

查看相应的进程:

代码语言:javascript
复制
jps

确定5个进程全部启动。

访问测试:

代码语言:javascript
复制
10.168.1.129:50070

设置开机启动

进入/etc/init.d/目录下

代码语言:javascript
复制
cd /etc/init.d/

创建文件hadoop

代码语言:javascript
复制
vim hadoop

写入开机启动相关的脚本内容

代码语言:javascript
复制
#!/bin/bash
#
# chkconfig: 2345 88 33
# description: Starts and stops Hadoop server

### BEGIN INIT INFO
# Required-Start:
# Required-Stop:
# Default-Start:        2 3 4 5
# Default-Stop:         0 1 6
# Short-Description:    Starts and stops Hadoop server
# Description:          Starts and stops Hadoop server
### END INIT INFO

start(){
    #
    # Start Hadoop
    #
    /usr/local/hadoop/sbin/start-all.sh
}
stop(){
    #
    # Stop Hadoop
    #
    /usr/local/hadoop/sbin/stop-all.sh
}

case "$1" in
    start)
        start
        exit $?
    ;;

    stop)
        stop
        exit $?
    ;;

    restart)
        #
        # Restart Hadoop
        #
        stop
        sleep 5
        start
        exit $?
    ;;

*)
echo "Usage hadoop start/stop/restart"
exit 1;;
esac

设置文件权限

代码语言:javascript
复制
chmod +x hadoop

添加到服务中

代码语言:javascript
复制
update-rc.d -f hadoop defaults

测试

代码语言:javascript
复制
service hadoop start

查看服务是否启动成功

代码语言:javascript
复制
jps
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2018.10.13 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 安装ubuntu-server系统
    • 安装系统
    • 安装ssh环境
      • 配置root用户密码
        • 关闭防火墙
          • 配置root用户远程连接
            • 设置ssh localhost 免密码登录
            • 安装jdk
              • 解压jdk
                • 配置jdk
                • 安装Hadoop
                  • 解压hadoop
                    • 配置hadoop
                      • 修改配置文件
                        • 测试,启动
                        • 设置开机启动
                        领券
                        问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档