前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >hbase+opentsdb 单机版搭建

hbase+opentsdb 单机版搭建

作者头像
保持热爱奔赴山海
发布2019-09-18 14:49:45
1.6K1
发布2019-09-18 14:49:45
举报
文章被收录于专栏:饮水机管理员饮水机管理员

2018年2月19日星期一 Lee

这个实验步骤比较简单,只能用来演示下搭建过程,实际生产环境复杂的很多。

实验环境:

centos6.5 x86_64 IP: 10.0.20.25

这里实验没有用HDFS,生产环境的话,hbase还是要把数据存到hdfs上比较安全的。

1. 安装单机zookeeper

cd /root/ tar xf zookeeper-3.4.8.tar.gz -C ./ mv zookeeper-3.4.8 /opt/zk

cd /opt/zk cat conf/zoo.cfg 内容如下:

代码语言:javascript
复制
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/tmp/zookeeper
clientPort=2181

/opt/zk/bin/zkServer.sh start /opt/zk1/zk1.cfg

/opt/zk/bin/zkCli.sh -server 10.0.20.25:2181

2. 安装单机hbase

代码语言:javascript
复制
tar xf hbase-1.2.6-bin.tar.gz –C /usr/local
cd /usr/local/
ln –s hbase-1.2.6 hbase
cd hbase
mkdir data   // 用来存放hbase的data数据【生产环境下,处于安全性考虑,hbase数据是存放到hdfs的】
cd conf

vim hbase-env.sh 最后追加3行:

代码语言:javascript
复制
export JAVA_HOME=/usr/java/jdk1.8.0_91
export PATH=${JAVA_HOME}/bin:$PATH
export HBASE_MANAGES_ZK=false
cat hbase-site.xml 添加红色部分的代码:
代码语言:javascript
复制
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
 <property>
    <name>hbase.rootdir</name>
    <value>/usr/local/hbase/data/</value>
  </property>

<property>
    <name>hbase.master.info.port</name>
    <value>16001</value>
</property>

 <property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>  <!-- false是单机模式,true是分布式模式。若为false,Hbase和Zookeeper会运行在同一个JVM里面。-->
  </property>

  <property>
    <name>hbase.zookeeper.quorum</name>
    <value>localhost:2181</value>
  </property>
</configuration>

更详细的可参看:https://www.cnblogs.com/yangsy0915/p/5544533.html

cat regionservers 内容如下: localhost 注意regionservers 里面写的内容和上面的hbase.zookeeper.quorum里面的hostname一样。

启动hbase:
代码语言:javascript
复制
cd /usr/local/hbase/bin
./start-hbase.sh  即可启动hbase
验证:

ss –lnt | grep 16001 ps aux|grep hbase

补充,HDFS+hbase+3节点zk的 hbase-site.xml配置文件写法:

代码语言:javascript
复制
<configuration> 
 //设置将数据写入hdfs的目录
  <property>  
    <name>hbase.rootdir</name>  
    <value>hdfs://master:9000/usr/local/hadoop-2.6.0/hbaseData</value>  
  </property>  
 //设置hbase模式为集群模式
<property>  
    <name>hbase.cluster.distributed</name>  
    <value>true</value>  
</property>
 //设置hbase的master端口地址
<property>
  <name>hbase.master</name>
  <value>hdfs://master:60000</value>
</property>
//HBase Master web界面绑定的端口,默认为0.0.0.0
<property>
  <name>hbase.master.info.port</name>
  <value>60010</value>
</property>
//连接zookeeper的端口设置
    <property>    
        <name>hbase.zookeeper.property.clientPort</name>    
        <value>2183</value>    
    </property>  
  //设置zookeeper的连接地址(必须为基数个)
 <property>  
           <name>hbase.zookeeper.quorum</name>  
           <value>master,slave1,slave2</value>  
   </property>
//Zookeeper的zoo.conf中的路径配置,快照的存储位置
<property>
        <name>hbase.zookeeper.property.dataDir</name>
        <value>/usr/local/zookeeper-3.4.6/data</value>
</property>
//Zookeeper连接超时时间
<property>
  <name>zookeeper.session.timeout</name>
  <value>60000</value>
</property>
</configuration>

3. 安装opentsdb

官方网站:http://opentsdb.net/docs/build/html/installation.html#id1

rpm –ivh opentsdb-2.3.0.rpm cd /etc/opentsdb vim opentsdb.conf 内容如下:

代码语言:javascript
复制
tsd.network.port = 4242
tsd.network.bind = 0.0.0.0
tsd.network.worker_threads = 8
tsd.http.staticroot = /usr/share/opentsdb/static/
tsd.http.cachedir = /tmp/opentsdb
tsd.core.auto_create_metrics = true
tsd.core.plugin_path = /usr/share/opentsdb/plugins
tsd.storage.hbase.zk_quorum = localhost:2181

启动之前,需要到hbase上面去创建表:

代码语言:javascript
复制
cd /usr/share/opentsdb/tools
env COMPRESSION=NONE HBASE_HOME=/usr/local/hbase ./create_table.sh

启动及验证: /etc/init.d/opentsdb start

ss -lnt | grep 4242 ps aux|grep opentsdb 访问浏览器的http://10.0.20.25:4242

4. 写数据测试

http api写数据方法:

官方文档:http://opentsdb.net/docs/build/html/api_http/put.html

可以使用chrome插件,如下方式post数据到opentsdb。【返回值204表示提交成功】

hbase+opentsdb 单机版搭建
hbase+opentsdb 单机版搭建
也可以使用tcollector来采集系统数据,并写入到opentsdb,方法如下:

git clone https://github.com/OpenTSDB/tcollector.git cd tcollector 如果不修改tcollector.py文件的话,默认采集程序会把采集的东西上送到localhost本地的opentsdb里面。【默认参数如下图】

hbase+opentsdb 单机版搭建
hbase+opentsdb 单机版搭建

./tcollector start // 即可在后台启动采集程序 ps aux | grep tcollector

如果需要采集mysql等其他软件的监控状态,需要去 collectors/etc/ 这个目录下的对应脚本里面,添加相关的账户名和密码,以便采集程序搜集信息。

然后,就可以到opentsdb的web界面去绘图了,下面是我采集了好几个小时的数据展示:

hbase+opentsdb 单机版搭建
hbase+opentsdb 单机版搭建

放到grfana里面,数据显示会更好看点。

hbase+opentsdb 单机版搭建
hbase+opentsdb 单机版搭建

配置大致这样的:

hbase+opentsdb 单机版搭建
hbase+opentsdb 单机版搭建
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2018-02-20 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 这个实验步骤比较简单,只能用来演示下搭建过程,实际生产环境复杂的很多。
  • 实验环境:
    • 这里实验没有用HDFS,生产环境的话,hbase还是要把数据存到hdfs上比较安全的。
    • 1. 安装单机zookeeper
    • 2. 安装单机hbase
      • cat hbase-site.xml 添加红色部分的代码:
        • 启动hbase:
          • 验证:
          • 3. 安装opentsdb
          • 4. 写数据测试
            • http api写数据方法:
              • 也可以使用tcollector来采集系统数据,并写入到opentsdb,方法如下:
              相关产品与服务
              TDSQL MySQL 版
              TDSQL MySQL 版(TDSQL for MySQL)是腾讯打造的一款分布式数据库产品,具备强一致高可用、全球部署架构、分布式水平扩展、高性能、企业级安全等特性,同时提供智能 DBA、自动化运营、监控告警等配套设施,为客户提供完整的分布式数据库解决方案。
              领券
              问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档