前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Spark 单机部署

Spark 单机部署

作者头像
Freedom123
发布2024-03-29 09:10:15
780
发布2024-03-29 09:10:15
举报
文章被收录于专栏:DevOpsDevOps

0. spark 下载解压

代码语言:javascript
复制
wget http://mirrors.cnnic.cn/apache/spark/spark-2.0.1/spark-2.0.1-bin-hadoop2.6.tgz
tar -zxvf spark-2.0.1-bin-hadoop2.6.tgz

1. scala配置 https://www.scala-lang.org/download/2.11.8.html

代码语言:javascript
复制
vi  /etc/profile
   export SCALA_HOME=/home/hadoop3/scala-2.11.7
   export PATH=$PATH:$SCALA_HOME/bin

2. jdk配置

代码语言:javascript
复制
vi  /etc/profile
    export JAVA_HOME=/opt/java/jdk1.8.0_121
    export CLASS_PATH=.:${JAVA_HOME}/lib:$CLASS_PATH
    export PATH=.:${JAVA_HOME}/bin: ${SCALA_HOME}/bin:$PATH

3. spark_home 配置

代码语言:javascript
复制
vi /etc/profile
   # Spark Eenvironment Variables
   export SPARK_HOME=/opt/spark-2.0.1-bin-hadoop2.6
   export PATH=$SPARK_HOME/bin:$PATH
   export PATH=$SPARK_HOME/sbin:$PATH
        
   source /etc/profile    #以上配置生效

4. spark-env.sh 配置

代码语言:javascript
复制
cp spark-env.sh.template spark-env.sh
vi spark-env.h
    export SCALA_HOME=/opt/scala/scala-2.12.2
    export JAVA_HOME=/opt/java/jdk1.8.0_121
    export SPARK_HOME=/opt/spark/spark-2.1.1-bin-hadoop2.7
    export SPARK_MASTER_IP=spark01
    export SPARK_EXECUTOR_MEMORY=1G

5. slaves 配置

代码语言:javascript
复制
cp slaves.template slaves
vi slaves
    spark01

6. 启动测试 测试:

代码语言:javascript
复制
./bin/run-example   SparkPi   10

shell启动:

代码语言:javascript
复制
 ./bin/spark-shell

spark启动:

代码语言:javascript
复制
mv start-all.sh spark-start-all.sh
mv stop-all.sh spark-stop-all.sh
spark-start-all.sh

web访问: spark01:8080

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2024-03-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
腾讯云服务器利旧
云服务器(Cloud Virtual Machine,CVM)提供安全可靠的弹性计算服务。 您可以实时扩展或缩减计算资源,适应变化的业务需求,并只需按实际使用的资源计费。使用 CVM 可以极大降低您的软硬件采购成本,简化 IT 运维工作。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档