前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >CentOS6.8_Spark单机部署

CentOS6.8_Spark单机部署

作者头像
Albert陈凯
发布2018-04-04 15:38:15
6450
发布2018-04-04 15:38:15
举报
文章被收录于专栏:Albert陈凯Albert陈凯
首先需要JDK
代码语言:javascript
复制
下载安装JDK
下载spark
代码语言:javascript
复制
wget https://d3kbcqa49mib13.cloudfront.net/spark-1.6.3-bin-hadoop2.6.tgz
创建安装目录
代码语言:javascript
复制
mkdir /software
移动安装文件到新建目录
代码语言:javascript
复制
mv ./spark-1.6.3-bin-hadoop2.6.tgz /sortware/
切换目录
代码语言:javascript
复制
cd /software
解压
代码语言:javascript
复制
tar xzvf spark-1.6.3-bin-hadoop2.6.tgz
cd spark-1.6.3-bin-hadoop2.6.tgz
pwd
复制打印出来的地址
修改配置文件 conf/
代码语言:javascript
复制
mv spark-env.sh.template spark-env.sh

我们默认安装不用修改目录

配置环境变量 vim /etc/profile
代码语言:javascript
复制
export SPARK_HOME=/software/spark-1.6.3-bin-hadoop2.6
export PATH=$PATH:$SPARK_HOME/bin:$SPARK_HOME/sbin
使环境变量生效

source /etc/profile

执行测试
代码语言:javascript
复制
spark-submit --master spark://node1:7077 --deploy-mode client --class org.apache.spark.examples.SparkPi ../lib/spark-examples-1.6.3-hadoop2.6.0.jar
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017.06.27 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 首先需要JDK
  • 下载spark
  • 创建安装目录
  • 移动安装文件到新建目录
  • 切换目录
  • 解压
  • 修改配置文件 conf/
  • 配置环境变量 vim /etc/profile
  • 使环境变量生效
  • 执行测试
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档