前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >大数据在实际生产环境的前期准备

大数据在实际生产环境的前期准备

作者头像
z小赵
发布2018-09-05 15:32:05
7340
发布2018-09-05 15:32:05
举报
文章被收录于专栏:简单聊聊Spark

生产环境的准备主要分为两个方面讲解,分 别为系统层面和软件层面,废话不多说,搞起来!

一.系统层面:

1.IP地址的选择,尽可能的将集群的IP地址选在同一个网段

2.主机名的命名方式 :

eg:  bigdata-cdh01.test.com. bigdata-cdh02.test.com. bigdata-cdh03.test.com

3.修改各台主机的主机名,运行如下命令(必须是在root用户下才能修改主机名):

hostname  bigdata-cdh01.test.com         临时修改,系统重启失效 vi   /etc/sysconfig/network                        永久修改主机名,修改结果如下图所示

修改后的主机名

4.在每台机器上做IP与主机名的映射处理,执行如下命令,然后禁用IPv6:(注意:如果是在windows下访问,在win下也要配置,在root用户下执行

vi     /etc/hosts        执行结果如下截图所示 echo  "alia  net-pf-10  off"   >>  /etc/modprobe.d/dist.conf echo "alia  ipv6  off"  >> /etc/modprobe.d/dist.conf

5.创建普通用户,用于安装软件,执行如下命令(注意:此操作必须在root用户下执行,并且每台机器的这个用户名和密码必须必须必须一致):

adducer   test              后面为用户名,根据自己的情况自己定义 passed     test              后面为密码,根据自己的情况定义 su   -   用户名               切换账户名

6.配置普通用户的sudo权限,执行如下命令(注意:此操作依旧在root用户下执行):

chmod   u+w       /etc/sudoers         为该文件附写文件的权限 vi   /etc/sudoers                                编辑该文件 在文件的首行添加的内容如下: test(用户名)     ALL=(root)NOPASSWD:ALL chmod    u-w       /etc/sudoers         收回权限

7.关闭防火墙,禁用Selinux:

sudo   chkconfig  iptables  off        永久关闭防火墙 sudo  vi  /etc/sysconfig/selinux      修改selinux,修改内容如下截图所示

8.卸载Linux自带的JDK,执行如下命令:

sudo  rpm  -qa | grep  java sudo rpm  -e  --nodeps   XXXXXXXX

9.设置文件打开数据和用户的最大进程:

查看文件打开数量(ulimit  -a) 查看用户的最大进程数(ulimit -u) 执行如下命令修改这两个参数: sudo  vi  /etc/security/limits.conf 添加的内容如下: *  soft  nofile  65535 *  hard  nofile  65535 *  soft   nproc   32000 *  hard  nproc    32000

二.软件层面的配置

1.集群时间的同步(以集群中的一台机器作为时间服务器):

sudo  rpm  -qa | grep  ntp             查看是否安装了ntp服务 sudo vim  /etc/ntp.conf                 修改ntp的配置文件,修改内容如下图1所示 sudo vim /etc/sysconfig/ntpd       同步硬件时间,增加如下一行内容即可 SYNC_HWCLOCK=yes sudo  service  ntpd  status        查看ntp是否启动 sudo service  ntpd  start            启动ntp服务 sudo  chkconfig  ntpd  on           永久启动ntp服务 在要执行时间同步的机器上做一个定时任务,执行如下命令,必须在root用户下 crontab  -l        查看定时任务 crontab  -e       编写定时任务,编辑内容如下: 0-59/10 * * * *  /usr/sbin/ntpdate  bigdata-cdh01.test.com (这里指的是被指定的时间服务器)

图1

        至此,基础配置已全部完成,然后将所有机器全部重启,下一篇将介绍本地yum源的搭建方式。欢迎关注,如需转载,请注明转载来源,谢谢!

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2017.10.04 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一.系统层面:
  • 二.软件层面的配置
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档