前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MongoDB3.6集群搭建(分片+副本集) 原

MongoDB3.6集群搭建(分片+副本集) 原

作者头像
拓荒者
发布2019-09-16 10:25:59
1.1K0
发布2019-09-16 10:25:59
举报
文章被收录于专栏:运维经验分享运维经验分享

MongoDB3.6集群搭建(分片+副本集)

分片则指为处理大量数据,将数据分开存储,不同服务器保存不同的数据,它们的数据总和即为整个数据集。追求的是高性能。 在生产环境中,通常是这两种技术结合使用,分片+副本集

1、 环境准备

系统系统 centos7.0 三台服务器:192.168.221.130/131/132 安装包: mongodb-linux-x86_64-3.6.3.tgz

服务器130

服务器131

服务器132

mongos

mongos

mongos

config server

config server

config server

shard server1 主节点

shard server1副节点

shard server1 仲裁

shard server2 仲裁

shard server2主节点

shard server2 副节点

shard server3 副节点

shard server3 仲裁

shard server3 主节点

端口分配:mongos:23000 config:24000 shard1:25001 shard2:25002 shard3:25003

1.安装mongodb(见另一博客:mongodb 3.63(Linux CentOS 7安装 )

2.分别在每台机器建立conf、mongos、config、shard1、shard2、shard3六个目录,因为mongos不存储数据,只需要建立日志文件目录即可。

代码语言:javascript
复制
mkdir -p /usr/local/mongodb/conf
mkdir -p /usr/local/mongodb/mongos/log
mkdir -p /usr/local/mongodb/config/data
mkdir -p /usr/local/mongodb/config/log
mkdir -p /usr/local/mongodb/shard1/data
mkdir -p /usr/local/mongodb/shard1/log
mkdir -p /usr/local/mongodb/shard2/data
mkdir -p /usr/local/mongodb/shard2/log
mkdir -p /usr/local/mongodb/shard3/data
mkdir -p /usr/local/mongodb/shard3/log
这里写图片描述
这里写图片描述

关闭三台机器的防火墙

代码语言:javascript
复制
systemctl stop firewalld.service

2、 配置服务器搭建副本集

Mongodb3.4以后要求配置服务器也创建副本集,不然集群搭建不成功。添加配置文件。

代码语言:javascript
复制
vi /usr/local/mongodb/conf/config.con

进入后添加以下配置信息

代码语言:javascript
复制
## 配置文件内容
pidfilepath = /usr/local/mongodb/config/log/configsrv.pid
dbpath = /usr/local/mongodb/config/data
logpath = /usr/local/mongodb/config/log/congigsrv.log
logappend = true
bind_ip = 0.0.0.0
port = 24000
fork = true
#declare this is a config db of a cluster;
configsvr = true
#副本集名称
replSet=configs
#设置最大连接数
maxConns=20000

分别启动三台服务器的config server,连接:进入/usr/local/mongodb/bin目录下

代码语言:javascript
复制
./mongod -f /usr/local/mongodb/conf/config.conf

登录任意一台配置服务器,初始化配置副本集,登录:进入/usr/local/mongodb/bin目录下

代码语言:javascript
复制
./mongo --port 24000

使用admin数据库

代码语言:javascript
复制
use admin

config变量:

代码语言:javascript
复制
config = {
...    _id : "configs",
...     members : [
...         {_id : 0, host : "192.168.221.130:24000" },
...         {_id : 1, host : "192.168.221.131:24000" },
...         {_id : 2, host : "192.168.221.132:24000" }
...     ]
... }

初始化副本集:

代码语言:javascript
复制
rs.initiate(config)

这一步非常重要,必须初始化成功。不成功的话,路由服务器与配置服务器连接不上。 其中,”_id” : “configs”应与配置文件中配置的 replicaction.replSetName 一致,”members” 中的 “host” 为三个节点的 ip 和 port。

3、 三台分片服务器搭建副本集

配置分片副本集(三台机器)。 1.设置第一个分片副本集 配置文件:

代码语言:javascript
复制
vi /usr/local/mongodb/conf/shard1.conf

配置:

代码语言:javascript
复制
#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard1/log/shard1.pid
dbpath = /usr/local/mongodb/shard1/data
logpath = /usr/local/mongodb/shard1/log/shard1.log
logappend = true
bind_ip = 0.0.0.0
port = 25001
fork = true
#副本集名称
replSet=shard1
#declare this is a shard db of a cluster;
shardsvr = true
#设置最大连接数
maxConns=20000

启动三台服务器的shard1 server,进入/usr/local/mongodb/bin目录下:

代码语言:javascript
复制
./mongod -f /usr/local/mongodb/conf/shard1.conf

登陆任意一台服务器,初始化副本集,进入/usr/local/mongodb/bin目录下:

代码语言:javascript
复制
./mongo --port 25001

使用admin数据库

代码语言:javascript
复制
use admin

定义副本集配置,第三个节点的 “arbiterOnly”:true 代表其为仲裁节点。

代码语言:javascript
复制
config = {
...    _id : "shard1",
...     members : [
...         {_id : 0, host : "192.168.221.130:25001" },
...         {_id : 1, host : "192.168.221.131:25001" },
...         {_id : 2, host : "192.168.221.132:25001” , arbiterOnly: true }
...     ]
... }

初始化副本集配置

代码语言:javascript
复制
rs.initiate(config);

2.设置第二个分片 进入配置文件

代码语言:javascript
复制
vi /usr/local/mongodb/conf/shard2.conf

添加配置:

代码语言:javascript
复制
#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard2/log/shard2.pid
dbpath = /usr/local/mongodb/shard2/data
logpath = /usr/local/mongodb/shard2/log/shard2.log
logappend = true
bind_ip = 0.0.0.0
port = 25002
fork = true
#副本集名称
replSet=shard2
#declare this is a shard db of a cluster;
shardsvr = true
#设置最大连接数
maxConns=20000

启动三台服务器的shard2 server,进入/usr/local/mongodb/bin目录下:

代码语言:javascript
复制
./mongod -f /usr/local/mongodb/conf/shard2.conf

登陆任意一台服务器,进入/usr/local/mongodb/bin初始化副本集

代码语言:javascript
复制
./mongo --port 25002

使用admin数据库

代码语言:javascript
复制
use admin

定义副本集配置

代码语言:javascript
复制
config = {
...    _id : "shard2",
...     members : [
...         {_id : 0, host : "192.168.221.130:25002"  , arbiterOnly: true },
...         {_id : 1, host : "192.168.221.131:25002" },
...         {_id : 2, host : "192.168.221.132:25002" }
...     ]
... }

初始化副本集配置

代码语言:javascript
复制
rs.initiate(config);

设置第三个分片副本集 配置文件代码如下:

代码语言:javascript
复制
vi /usr/local/mongodb/conf/shard3.conf

进入配置:

代码语言:javascript
复制
#配置文件内容
#——————————————–
pidfilepath = /usr/local/mongodb/shard3/log/shard3.pid
dbpath = /usr/local/mongodb/shard3/data
logpath = /usr/local/mongodb/shard3/log/shard3.log
logappend = true
bind_ip = 0.0.0.0
port = 25003
fork = true
#副本集名称
replSet=shard3
#declare this is a shard db of a cluster;
shardsvr = true
#设置最大连接数
maxConns=20000

启动三台服务器的shard3 server,进入/usr/local/mongodb/bin目录下:

代码语言:javascript
复制
./mongod -f /usr/local/mongodb/conf/shard3.conf

登陆任意一台服务器,初始化副本集

代码语言:javascript
复制
./mongo --port 25003

使用admin数据库

代码语言:javascript
复制
use admin

定义副本集配置

代码语言:javascript
复制
config = {
...    _id : "shard3",
...     members : [
...         {_id : 0, host : "192.168.221.130:25003" },
...         {_id : 1, host : "192.168.221.131:25003" , arbiterOnly: true},
...         {_id : 2, host : "192.168.221.132:25003" }
...     ]
... }

初始化副本集配置

代码语言:javascript
复制
rs.initiate(config);

4、 配置路由服务器

先启动配置服务器和分片服务器,后启动路由实例启动路由实例:(三台机器)

代码语言:javascript
复制
vi /usr/local/mongodb/conf/mongos.conf

配置:

代码语言:javascript
复制
#内容
pidfilepath = /usr/local/mongodb/mongos/log/mongos.pid
logpath = /usr/local/mongodb/mongos/log/mongos.log
logappend = true
bind_ip = 0.0.0.0
port = 23000
fork = true
#监听的配置服务器,只能有1个或者3个 configs为配置服务器的副本集名字
configdb = configs/192.168.221.130:24000,192.168.221.131:24000,192.168.221.131:24000
#设置最大连接数
maxConns=20000

启动三台服务器的mongos server,进入/usr/local/mongodb/bin目录下:

代码语言:javascript
复制
./mongos -f /usr/local/mongodb/conf/mongos.conf

5、分片

目前搭建了mongodb配置服务器、路由服务器,各个分片服务器,不过应用程序连接到mongos路由服务器并不能使用分片机制,还需要在程序里设置分片配置,让分片生效。 登陆任意一台mongos,进入/usr/local/mongodb/bin目录下

代码语言:javascript
复制
./mongo --port 23000

使用admin数据库

代码语言:javascript
复制
use  admin

串联路由服务器与分配副本集

代码语言:javascript
复制
sh.addShard("shard1/192.168.221.130:25001,192.168.221.131:25001,192.168.221.132:25001")
sh.addShard("shard2/192.168.221.130:25002,192.168.221.131:25002,192.168.221.132:25002")
sh.addShard("shard3/192.168.221.130:25003,192.168.221.131:25003,192.168.221.132:25003")

查看集群状态

代码语言:javascript
复制
sh.status()

6、 测试

目前配置服务、路由服务、分片服务、副本集服务都已经串联起来了,但我们的目的是希望插入数据,数据能够自动分片。连接在mongos上,准备让指定的数据库、指定的集合分片生效。 指定testdb分片生效

代码语言:javascript
复制
db.runCommand( { enablesharding :"testdb"});
这里写图片描述
这里写图片描述

指定数据库里需要分片的集合和片键

代码语言:javascript
复制
db.runCommand( { shardcollection : "testdb.table1",key : {id: “hashed”} } )
这里写图片描述
这里写图片描述

我们设置testdb的 table1 表需要分片,根据 id 自动分片到 shard1 ,shard2,shard3 上面去。要这样设置是因为不是所有mongodb 的数据库和表 都需要分片!插入100000条数据测试:

这里写图片描述
这里写图片描述

查看分配状态

代码语言:javascript
复制
db.table1.stats();

如下图所示:shard1总数:33755条

这里写图片描述
这里写图片描述

Shard2总数:33143条

这里写图片描述
这里写图片描述

Shard3总数:33102条

这里写图片描述
这里写图片描述

7、注意事项

出现如下问题,说明初始化没有成功,如果初始化没有成功会导致后面路由服务器启动不了

这里写图片描述
这里写图片描述

出现如下问题需要关闭进程。重启服务

这里写图片描述
这里写图片描述

上述一台服务器不能初始化,可以选择另一台(配置可以选取任何一台)

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • MongoDB3.6集群搭建(分片+副本集)
  • 1、 环境准备
  • 2、 配置服务器搭建副本集
  • 3、 三台分片服务器搭建副本集
  • 4、 配置路由服务器
  • 5、分片
  • 6、 测试
  • 7、注意事项
相关产品与服务
云数据库 MongoDB
腾讯云数据库 MongoDB(TencentDB for MongoDB)是腾讯云基于全球广受欢迎的 MongoDB 打造的高性能 NoSQL 数据库,100%完全兼容 MongoDB 协议,支持跨文档事务,提供稳定丰富的监控管理,弹性可扩展、自动容灾,适用于文档型数据库场景,您无需自建灾备体系及控制管理系统。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档