CentOS7+rsync+sersync实现数据实时同步

拓荒者

发布于 2019-03-11 10:58:32

1.4K0

一、为什么要用Rsync+sersync架构? 1、sersync是基于Inotify开发的，类似于Inotify-tools的工具 2、sersync可以记录下被监听目录中发生变化的（包括增加、删除、修改）具体某一个文件或某一个目录的名字，然后使用rsync同步的时候，只同步发生变化的这个文件或者这个目录。 二、Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别？ 1、Rsync+Inotify-tools （1）：Inotify-tools只能记录下被监听的目录发生了变化（包括增加、删除、修改），并没有把具体是哪个文件或者哪个目录发生了变化记录下来；（2）：rsync在同步的时候，并不知道具体是哪个文件或者哪个目录发生了变化，每次都是对整个目录进行同步，当数据量很大时，整个目录同步非常耗时（rsync要对整个目录遍历查找对比文件），因此，效率很低。 2、Rsync+sersync （1）：sersync可以记录下被监听目录中发生变化的（包括增加、删除、修改）具体某一个文件或某一个目录的名字；（2）：rsync在同步的时候，只同步发生变化的这个文件或者这个目录（每次发生变化的数据相对整个同步目录数据来说是很小的，rsync在遍历查找比对文件时，速度很快），因此，效率很高。 小结：当同步的目录数据量不大时，建议使用Rsync+Inotify-tools；当数据量很大（几百G甚至1T以上）、文件很多时，建议使用Rsync+sersync。 准备操作系统 CentOS 7 sersync2.5.4_64bit 源服务器 192.168.0.248 目标服务器 192.168.0.249 把A机器上的一个目录下文件的变化实时同步到B机器上，两边文件保持一致；两台服务器的selinux与iptables自行设置好，rsync的端口两边要配置一致,默认是873 PS:本文中附上了目标服务器与源服务器的一键部署脚本（亲测可用），如有需要可直接运行脚本进行环境部署，部署完成后只需修改你需要的参数即可使用（install_des.sh目标服务器脚本，install_source.sh源服务器脚本）操作 目标服务器 1.安装rsync服务与xinetd服务

yum install -y rsync xinetd

2.rsync配置（千万注意：本人亲自入坑，下面的配置信息，请在添加到配置文件中后千万记得删除掉后面#部分的备注信息，否则同步过程会失败，不知原因，删除后即可正常同步，超级大坑...测试了一个早上才找到原因）

vim /etc/rsyncd.conf
uid = root #设置rsync的运行用户权限为root
gid = root #设置rsync的运行组权限为root
use chroot =no
list = no #不显示rsync服务端资源列表
log file = /var/log/rsyncd.log #配置rsync日志文件存放路径
[data #自定义模块名称
path=/data #定义需要实时同步的路径
comment=data #与模块名称相同即可
ignore errors
read only=no #设置rsync服务端文件为读写权限
list=no #不显示rsync服务端资源列表
max connections=200 #允许最大的客户端连接数
timeout=600 #设置超时时间
auth users=rsync #执行数据同步的虚拟用户名，可以设置多个，用逗号隔开
secrets file=/etc/rsync.pas #设置同步使用的用户及密码信息文件存放路径
hosts allow=* #允许所有用户访问
#host deny=0.0.0.0/0 #用于设置拒绝访问的IP，这里注销即可

3.创建用于存放同步的用户及密码的文件/etc/rsync.pas，并将此文件权限修改为600

echo "rsync:123456lzz" >> /etc/rsync.pas
chmod 600 /etc/rsync.pas

4.创建同步的目录/data

mkdir /data

5.启动rsync与xinetd服务

systemctl start xinetd #启动xinetd服务
systemctl enable xinetd #将xinetd服务加入开机项
rsync --daemon --config=/etc/rsyncd.conf #加载配置文件rsyncd.conf启动rsync服务

6.配置rsync开机自启动

echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.d/rc.local

源服务器

1、查看服务器内核是否支持inotify

ll /proc/sys/fs/inotify #列出文件目录，出现下面的内容，说明服务器内核支持inotify

-rw-r--r-- 1 root root 0 Mar 7 02:17 max_queued_events

-rw-r--r-- 1 root root 0 Mar 7 02:17 max_user_instances

-rw-r--r-- 1 root root 0 Mar 7 02:17 max_user_watches

备注：Linux下支持inotify的内核最小为2.6.13，可以输入命令：uname -a查看内核

CentOS 5.X 内核为2.6.18，默认已经支持inotify

2、修改inotify默认参数（inotify默认内核参数值太小）

查看系统默认参数值：

sysctl -a | grep max_queued_events

结果是：fs.inotify.max_queued_events = 16384

sysctl -a | grep max_user_watches

结果是：fs.inotify.max_user_watches = 8192

sysctl -a | grep max_user_instances

结果是：fs.inotify.max_user_instances = 128

修改参数：

sysctl -w fs.inotify.max_queued_events="99999999"

sysctl -w fs.inotify.max_user_watches="99999999"

sysctl -w fs.inotify.max_user_instances="65535"

vi /etc/sysctl.conf #添加以下代码

fs.inotify.max_queued_events=99999999

fs.inotify.max_user_watches=99999999

fs.inotify.max_user_instances=65535

:wq! #保存退出

参数说明：

max_queued_events：

inotify队列最大长度，如果值太小，会出现"** Event Queue Overflow **"错误，导致监控文件不准确

max_user_watches：

要同步的文件包含多少目录，可以用：find /home/www.osyunwei.com -type d | wc -l 统计，必须保证max_user_watches值大于统计结果（这里/home/www.osyunwei.com为同步文件目录）

max_user_instances：

每个用户创建inotify实例最大值

1.下载sersync源码包并安装sersync服务

wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz
mkdir /usr/local/sersync
mkdir /usr/local/sersync/conf
mkdir /usr/local/sersync/bin
mkdir /usr/local/sersync/log
tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz
cd GNU-Linux-x86/
cp confxml.xml /usr/local/sersync/conf
cp sersync2 /usr/local/sersync/bin

2.创建密码文件跟目标服务器一样，不过这个文件只要保存密码即可，不需要保存用户名，权限也是600

echo "123456lzz" >> /etc/rsync.pas
chmod 600 /etc/rsync.pas

3.配置sersync服务

vim /usr/local/sersync/conf/confxml.xml
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
<host hostip="localhost" port="8008"></host>
<debug start="false"/>
<fileSystem xfs="false"/>
<filter start="false">
<exclude expression="(.*)\.svn"></exclude>
<exclude expression="(.*)\.gz"></exclude>
<exclude expression="^info/*"></exclude>
<exclude expression="^static/*"></exclude>
</filter>
<inotify>
<delete start="true"/>
<createFolder start="true"/>
<createFile start="true"/>
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="true"/>
<modify start="true"/>
</inotify>
<sersync>
<localpath watch="/data">
<remote ip="192.168.0.249" name="data"/>
</localpath>
<rsync>
<commonParams params="-auvzP"/>
<auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/>
<userDefinedPort start="false" port="873"/>
<timeout start="true" time="100"/>
<ssh start="false"/>
</rsync>
<failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/>
<crontab start="false" schedule="600">
<crontabfilter start="false">
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
<plugin start="false" name="command"/>
</sersync>
<plugin name="command">
<param prefix="/bin/sh" suffix="" ignoreError="true"/>
<filter start="false">
<include expression="(.*)\.php"/>
<include expression="(.*)\.sh"/>
</filter>
</plugin>
<plugin name="socket">
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>
</head>

4.创建同步目录

mkdir /data

5.设置环境变量

echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile
source /etc/profile

6.启动、重启、停止sersync服务

sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #启动
killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #重启
killall sersync2 #停止

7.设置开机启动sersync

echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.d/rc.local

最后启动完源服务器上的sersync服务后重启下目标服务器上的xinetd服务

vi sersync.sh

#!/bin/bash

/usr/local/sersync/bin/sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml

chmod+x sersync.sh

将 sersync.sh加入 /etc/rc.local 开机启动

测试：在源服务器上的/data目录新建文件或目录再查看目标服务器上的/data目录状态

实例

vi /usr/local/sersync/conf/confxml.xml

<?xml version="1.0" encoding="ISO-8859-1"?> <head version="2.5"> <host hostip="localhost" port="8008"></host> <debug start="false"/> <fileSystem xfs="false"/> <filter start="false"> <exclude expression="(.*)\.svn"></exclude> <exclude expression="(.*)\.gz"></exclude> <exclude expression="^info/*"></exclude> <exclude expression="^static/*"></exclude> </filter> <inotify> <delete start="true"/> <createFolder start="true"/> <createFile start="false"/> <closeWrite start="true"/> <moveFrom start="true"/> <moveTo start="true"/> <attrib start="false"/> <modify start="false"/> </inotify>

参数说明：

localpath watch="/home/www.osyunwei.com"：#源服务器同步目录

192.168.21.127，192.168.21.128：#目标服务器IP地址

name="home_www.osyunwei.com"： #目标服务器rsync同步目录模块名称

users="home_www.osyunwei.com_user"： #目标服务器rsync同步用户名

passwordfile="/etc/passwd.txt"： #目标服务器rsync同步用户的密码在源服务器的存放路径

remote ip="192.168.21.127": #目标服务器ip，每行一个

remote ip="192.168.21.128": #目标服务器ip，每行一个

failLog path="/tmp/rsync_fail_log.sh" #脚本运行失败日志记录

start="true" #设置为true，每隔600分钟执行一次全盘同步

5、设置sersync监控开机自动执行

vi /etc/rc.d/rc.local #编辑，在最后添加一行

/usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml ＃设置开机自动运行脚本

:wq! #保存退出

6、添加脚本监控sersync是否正常运行

vi /home/crontab/check_sersync.sh #编辑，添加以下代码

#!/bin/sh

sersync="/usr/local/sersync/bin/sersync2"

confxml="/usr/local/sersync/conf/confxml.xml"

status=$(ps aux |grep 'sersync2'|grep -v 'grep'|wc -l)

if [ $status -eq 0 ];

then

$sersync -d -r -o $confxml &

else

exit 0;

:wq! #保存退出

chmod +x /home/crontab/check_sersync.sh #添加脚本执行权限

vi /etc/crontab #编辑，在最后添加下面一行

*/5 * * * * root /home/crontab/check_sersync.sh > /dev/null 2>&1 #每隔5分钟执行一次脚本

service crond reload #重新加载服务

(adsbygoogle = window.adsbygoogle || []).push({});

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2018/10/17 ，如有侵权请联系 cloudcommunity@tencent.com 删除

centos

本文分享自作者个人站点/博客前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

centos

登录后参与评论

0 条评论

热度

CentOS7+rsync+sersync实现数据实时同步

CentOS7+rsync+sersync实现数据实时同步

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐