前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >零基础搭建分布式集群的几个方法

零基础搭建分布式集群的几个方法

作者头像
数说君
发布2018-03-28 16:58:03
7040
发布2018-03-28 16:58:03
举报
文章被收录于专栏:数说工作室数说工作室

大家好,许久没更新了,这段时间忙着换工作和交接过度(对,换工作了);另一方面,这段时间试着搭建了一下分布式集群,本来打算跟大家详细分享一下,由于是零基础,中间还有好多没弄清楚,所以先简单分享几种安装思路:

搭建Hadoop、Spark分布式集群,前面的几步一样:

  • 装虚拟机,我用的是Vmware Workstation,装Ubuntu或CentOS系统;
  • 开启系统的root用户;
  • 复制若干台虚拟机;
  • 每台都安装ssh,实现这若干台虚拟机的免密码通信。

之后:

你可以纯手动来安装、利用Ambari半自动安装、或者利用CDH安装

1. 手动安装

  • 安装配置Java
  • 安装配置Hadoop
  • 安装配置Spark

这里面涉及了linux下的软件安装、环境配置添加/修改等等。分享一个教程,非常适合零基础:http://down.51cto.com/zt/6876/1

2. Ambari半自动安装

  • 下载ambari
  • yum命令进行安装:yum install ambari-server
  • 配置ambari:ambari-server setup
  • 启动ambari:ambari-server start
  • 在浏览器中部署集群,菜单式操作

分享的教程是:http://www.ibm.com/developerworks/cn/opensource/os-cn-bigdata-ambari/

3. CDH 自动安装

先下载CDH,下载之后执行,基本就是全自动安装。但是之前要做几个配置,比如关闭防火墙,设置SELINUX=disabled等,分享的教程是:http://www.cnblogs.com/Nervermore/p/4994309.html

4. 其他

hadoop docker cluster:https://github.com/kiwenlau/hadoop-cluster-docker

并没有尝试过。

由于我也是零基础的初学者,只能分享分享搜集的资料,欢迎大家交流,求老司机带带路

(手动安装datanode始终没能开启、ambari安装卡在web页面的comnfirm host,提示ambari agent host cannot reach ambari server '<主机名>:8080')

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2016-10-26,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 数说工作室 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档