[经验分享] CentOS7+rsync+sersync实现数据实时同步
[经验分享] CentOS7+rsync+sersync实现数据实时同步
前言： 一、为什么要用Rsync+sersync架构? 1、sersync是基于Inotify开发的，类似于Inotify-tools的工具 2、sersync可以记录下被监听目录中发生变化的（包括增加、删除、修改）具体某一个文件或某一个目录的名字，然后使用rsync同步的时候，只同步发生变化的这个文件或者这个目录。 二、Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别？ 1、Rsync+Inotify-tools （1）：Inotify-tools只能记录下被监听的目录发生了变化（包括增加、删除、修改），并没有把具体是哪个文件或者哪个目录发生了变化记录下来； （2）：rsync在同步的时候，并不知道具体是哪个文件或者哪个目录发生了变化，每次都是对整个目录进行同步，当数据量很大时，整个目录同步非常耗时（rsync要对整个目录遍历查找对比文件），因此，效率很低。 2、Rsync+sersync （1）：sersync可以记录下被监听目录中发生变化的（包括增加、删除、修改）具体某一个文件或某一个目录的名字； （2）：rsync在同步的时候，只同步发生变化的这个文件或者这个目录（每次发生变化的数据相对整个同步目录数据来说是很小的，rsync在遍历查找比对文件时，速度很快），因此，效率很高。 小结：当同步的目录数据量不大时，建议使用Rsync+Inotify-tools；当数据量很大（几百G甚至1T以上）、文件很多时，建议使用Rsync+sersync。 准备 操作系统 CentOS 7 sersync2.5.4_64bit 源服务器 192.168.0.248 目标服务器 192.168.0.249 把A机器上的一个目录下文件的变化实时同步到B机器上，两边文件保持一致； 两台服务器的selinux与iptables自行设置好，rsync的端口两边要配置一致,默认是873 PS:本文中附上了目标服务器与源服务器的一键部署脚本（亲测可用），如有需要可直接运行脚本进行环境部署，部署完成后只需修改你需要的参数即可使用（install_des.sh目标服务器脚本，install_source.sh源服务器脚本） 操作 目标服务器 1.安装rsync服务与xinetd服务 yum install -y rsync xinetd 2.rsync配置（千万注意：本人亲自入坑，下面的配置信息，请在添加到配置文件中后千万记得删除掉后面#部分的备注信息，否则同步过程会失败，不知原因，删除后即可正常同步，超级大坑...测试了一个早上才找到原因） vim /etc/rsyncd.conf uid = root #设置rsync的运行用户权限为root gid = root #设置rsync的运行组权限为root use chroot =no list = no #不显示rsync服务端资源列表 log file = /var/log/rsyncd.log #配置rsync日志文件存放路径 [data #自定义模块名称 path=/data #定义需要实时同步的路径 comment=data #与模块名称相同即可 ignore errors read only=no #设置rsync服务端文件为读写权限 list=no #不显示rsync服务端资源列表 max connections=200 #允许最大的客户端连接数 timeout=600 #设置超时时间 auth users=rsync #执行数据同步的虚拟用户名，可以设置多个，用逗号隔开 secrets file=/etc/rsync.pas #设置同步使用的用户及密码信息文件存放路径 hosts allow=* #允许所有用户访问 #host deny=0.0.0.0/0 #用于设置拒绝访问的IP，这里注销即可 3.创建用于存放同步的用户及密码的文件/etc/rsync.pas，并将此文件权限修改为600 echo "rsync:123456lzz" >> /etc/rsync.pas chmod 600 /etc/rsync.pas 4.创建同步的目录/data mkdir /data 5.启动rsync与xinetd服务 systemctl start xinetd #启动xinetd服务 systemctl enable xinetd #将xinetd服务加入开机项 rsync --daemon --config=/etc/rsyncd.conf #加载配置文件rsyncd.conf启动rsync服务 6.配置rsync开机自启动 echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.d/rc.local 源服务器 1.下载sersync源码包并安装sersync服务 wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz mkdir /usr/local/sersync mkdir /usr/local/sersync/conf mkdir /usr/local/sersync/bin mkdir /usr/local/sersync/log tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz cd GNU-Linux-x86/ cp confxml.xml /usr/local/sersync/conf cp sersync2 /usr/local/sersync/bin 2.创建密码文件跟目标服务器一样，不过这个文件只要保存密码即可，不需要保存用户名，权限也是600 echo "123456lzz" >> /etc/rsync.pas chmod 600 /etc/rsync.pas 3.配置sersync服务 vim /usr/local/sersync/conf/confxml.xml <?xml version="1.0" encoding="ISO-8859-1"?> <head version="2.5"> <!--设置本地IP和端口--> <host hostip="localhost" port="8008"></host> <!--开启DUBUG模式--> <debug start="false"/> <!--开启xfs文件系统--> <fileSystem xfs="false"/> <!--同步时忽略推送的文件(正则表达式),默认关闭--> <filter start="false"> <exclude expression="(.*)\.svn"></exclude> <exclude expression="(.*)\.gz"></exclude> <exclude expression="^info/*"></exclude> <exclude expression="^static/*"></exclude> </filter> <inotify> <!--设置要监控的事件--> <delete start="true"/> <createFolder start="true"/> <createFile start="true"/> <closeWrite start="true"/> <moveFrom start="true"/> <moveTo start="true"/> <attrib start="true"/> <modify start="true"/> </inotify> <sersync> <!--本地同步的目录路径--> <localpath watch="/data"> <!--远程IP和rsync模块名--> <remote ip="192.168.0.249" name="data"/> <!--<remote ip="192.168.8.39" name="tongbu"/>--> <!--<remote ip="192.168.8.40" name="tongbu"/>--> </localpath> <rsync> <!--rsync指令参数--> <commonParams params="-auvzP"/> <!--rsync同步认证--> <auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/> <!--设置rsync远程服务端口，远程非默认端口则需打开自定义--> <userDefinedPort start="false" port="873"/><!-- port=874 --> <!--设置超时时间--> <timeout start="true" time="100"/><!-- timeout=100 --> <!--设置rsync+ssh加密传输模式,默认关闭，开启需设置SSH加密证书--> <ssh start="false"/> </rsync> <!--sersync传输失败日志脚本路径，每隔60会重新执行该脚本，执行完毕会自动清空--> <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once--> <!--设置rsync+crontab定时传输，默认关闭--> <crontab start="false" schedule="600"><!--600mins--> <crontabfilter start="false"> <exclude expression="*.php"></exclude> <exclude expression="info/*"></exclude> </crontabfilter> </crontab> <!--设置sersync传输后调用name指定的插件脚本，默认关闭--> <plugin start="false" name="command"/> </sersync> <!--插件脚本范例--> <plugin name="command"> <param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix--> <filter start="false"> <include expression="(.*)\.php"/> <include expression="(.*)\.sh"/> </filter> </plugin> <!--插件脚本范例--> <plugin name="socket"> <localpath watch="/opt/tongbu"> <deshost ip="192.168.138.20" port="8009"/> </localpath> </plugin> <plugin name="refreshCDN"> <localpath watch="/data0/htdocs/cms.xoyo.com/site/"> <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/> <sendurl base="http://pic.xoyo.com/cms"/> <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/> </localpath> </plugin> </head> 4.创建同步目录 mkdir /data 5.设置环境变量 echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile source /etc/profile 6.启动、重启、停止sersync服务 sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #启动 killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #重启 killall sersync2 #停止 7.设置开机启动sersync echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.d/rc.local 最后启动完源服务器上的sersync服务后重启下目标服务器上的xinetd服务 测试： 在源服务器上的/data目录新建文件或目录再查看目标服务器上的/data目录状态 |
|---|
- yum install -y rsync xinetd
2.rsync配置（千万注意：本人亲自入坑，下面的配置信息，请在添加到配置文件中后千万记得删除掉后面#部分的备注信息，否则同步过程会失败，不知原因，删除后即可正常同步，超级大坑...测试了一个早上才找到原因）
- vim /etc/rsyncd.conf
- uid = root #设置rsync的运行用户权限为root
- gid = root #设置rsync的运行组权限为root
- use chroot =no
- list = no #不显示rsync服务端资源列表
- log file = /var/log/rsyncd.log #配置rsync日志文件存放路径
- [data #自定义模块名称
- path=/data #定义需要实时同步的路径
- comment=data #与模块名称相同即可
- ignore errors
- read only=no #设置rsync服务端文件为读写权限
- list=no #不显示rsync服务端资源列表
- max connections=200 #允许最大的客户端连接数
- timeout=600 #设置超时时间
- auth users=rsync #执行数据同步的虚拟用户名，可以设置多个，用逗号隔开
- secrets file=/etc/rsync.pas #设置同步使用的用户及密码信息文件存放路径
- hosts allow=* #允许所有用户访问
- #host deny=0.0.0.0/0 #用于设置拒绝访问的IP，这里注销即可
3.创建用于存放同步的用户及密码的文件/etc/rsync.pas，并将此文件权限修改为600
- echo "rsync:123456lzz" >> /etc/rsync.pas
- chmod 600 /etc/rsync.pas
4.创建同步的目录/data
- mkdir /data
5.启动rsync与xinetd服务
- systemctl start xinetd #启动xinetd服务
- systemctl enable xinetd #将xinetd服务加入开机项
- rsync --daemon --config=/etc/rsyncd.conf #加载配置文件rsyncd.conf启动rsync服务
6.配置rsync开机自启动
- echo "rsync --daemon --config=/etc/rsyncd.conf" >> /etc/rc.d/rc.local
源服务器 1.下载sersync源码包并安装sersync服务
- wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz
- mkdir /usr/local/sersync
- mkdir /usr/local/sersync/conf
- mkdir /usr/local/sersync/bin
- mkdir /usr/local/sersync/log
- tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz
- cd GNU-Linux-x86/
- cp confxml.xml /usr/local/sersync/conf
- cp sersync2 /usr/local/sersync/bin
2.创建密码文件跟目标服务器一样，不过这个文件只要保存密码即可，不需要保存用户名，权限也是600
- echo "123456lzz" >> /etc/rsync.pas
- chmod 600 /etc/rsync.pas
3.配置sersync服务
- vim /usr/local/sersync/conf/confxml.xml
- <?xml version="1.0" encoding="ISO-8859-1"?>
- <head version="2.5">
- <!--设置本地IP和端口-->
- <host hostip="localhost" port="8008"></host>
- <!--开启DUBUG模式-->
- <debug start="false"/>
- <!--开启xfs文件系统-->
- <fileSystem xfs="false"/>
- <!--同步时忽略推送的文件(正则表达式),默认关闭-->
- <filter start="false">
- <exclude expression="(.*)\.svn"></exclude>
- <exclude expression="(.*)\.gz"></exclude>
- <exclude expression="^info/*"></exclude>
- <exclude expression="^static/*"></exclude>
- </filter>
- <inotify>
- <!--设置要监控的事件-->
- <delete start="true"/>
- <createFolder start="true"/>
- <createFile start="true"/>
- <closeWrite start="true"/>
- <moveFrom start="true"/>
- <moveTo start="true"/>
- <attrib start="true"/>
- <modify start="true"/>
- </inotify>
- <sersync>
- <!--本地同步的目录路径-->
- <localpath watch="/data">
- <!--远程IP和rsync模块名-->
- <remote ip="192.168.0.249" name="data"/>
- <!--<remote ip="192.168.8.39" name="tongbu"/>-->
- <!--<remote ip="192.168.8.40" name="tongbu"/>-->
- </localpath>
- <rsync>
- <!--rsync指令参数-->
- <commonParams params="-auvzP"/>
- <!--rsync同步认证-->
- <auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/>
- <!--设置rsync远程服务端口，远程非默认端口则需打开自定义-->
- <userDefinedPort start="false" port="873"/><!-- port=874 -->
- <!--设置超时时间-->
- <timeout start="true" time="100"/><!-- timeout=100 -->
- <!--设置rsync+ssh加密传输模式,默认关闭，开启需设置SSH加密证书-->
- <ssh start="false"/>
- </rsync>
- <!--sersync传输失败日志脚本路径，每隔60会重新执行该脚本，执行完毕会自动清空-->
- <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
- <!--设置rsync+crontab定时传输，默认关闭-->
- <crontab start="false" schedule="600"><!--600mins-->
- <crontabfilter start="false">
- <exclude expression="*.php"></exclude>
- <exclude expression="info/*"></exclude>
- </crontabfilter>
- </crontab>
- <!--设置sersync传输后调用name指定的插件脚本，默认关闭-->
- <plugin start="false" name="command"/>
- </sersync>
- <!--插件脚本范例-->
- <plugin name="command">
- <param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
- <filter start="false">
- <include expression="(.*)\.php"/>
- <include expression="(.*)\.sh"/>
- </filter>
- </plugin>
- <!--插件脚本范例-->
- <plugin name="socket">
- <localpath watch="/opt/tongbu">
- <deshost ip="192.168.138.20" port="8009"/>
- </localpath>
- </plugin>
- <plugin name="refreshCDN">
- <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
- <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
- <sendurl base="http://pic.xoyo.com/cms"/>
- <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
- </localpath>
- </plugin>
- </head>
4.创建同步目录
- mkdir /data
5.设置环境变量
- echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile
- source /etc/profile
6.启动、重启、停止sersync服务
- sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #启动
- killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml #重启
- killall sersync2 #停止
7.设置开机启动sersync
- echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.d/rc.local
最后启动完源服务器上的sersync服务后重启下目标服务器上的xinetd服务 测试： 在源服务器上的/data目录新建文件或目录再查看目标服务器上的/data目录状态
(adsbygoogle = window.adsbygoogle || []).push({});