1、cwRsync官网https://itefix.net/国内访问不了,cwRsync Client免费,cwRsync Server收费(4.1版本免费)
3、 可以做到保持源文件或目录的权限、时间、软硬连接、属主、组等所有属性均不改变-p
systemctl start rsyncd.service systemctl enable rsyncd.service #检查是否已经成功启动
[root@backup tmp]# rsync -avz /etc/hosts -e 'ssh -p 22' root@172.16.1.5:/tmp/
我们公司在用inotify+rsync做实时同步,来解决分布式集群文件一致性的问题。但当web文件越来越多(百万级数量html,jpg等小 文件),同步就越来越慢,根本做不到实时,按照网上的调优方法都尝试过,问题根本没有解决。经过我一翻细致研究,终于把慢的核心问题研究明白,先总结一句 inotifywait响应不会有延迟,rsync也很快。大家同样有慢的烦恼,那是因为网上的inotify+rsync的教程都是坑。查看这里,下面我们来分析。
我们公司在用inotify+rsync做实时同步,来解决分布式集群文件一致性的问题。但当web文件越来越多(百万级数量html,jpg等小 文件),同步就越来越慢,根本做不到实时,按照网上的调优方法都尝试过,问题根本没有解决。经过我一翻细致研究,终于把慢的核心问题研究明白,先总结一句 inotifywait响应不会有延迟,rsync也很快。大家同样有慢的烦恼,那是因为网上的inotify+rsync的教程都是坑。下面我们来分析。点击这里查看
@ERROR: chroot failed rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3]
1、守护进程多模块功能配置 sa sa_data.txt dev dev_data.txt dba dba_data.txt vim /etc/rsync.conf #添加以下信息 [backup] comment = "backup dir by oldboy" path = /backup [dba] comment = "backup dir by oldboy" path = /dba [dev]
上传inotify-tools-3.14.tar.gz到/usr/local/src目录下
Rsync是一款开源的、快速的、多功能的、可实现全量及增量(全量备份是指全部备份,增量备份是在上一次备份的基础上只备份更新的内容)的本地货远程数据同步备份的优秀工具。Rsync软件适用于unix/linux/windows等多种操作系统平台。
rsync介绍 rsync是一款开源的、快速的、多功能的、可实现全量及增量的本地或远程数据同步备份工具 在常驻模式(daemon mode)下,rsync默认监听TCP端口873,以原生rsync传输协议或者通过远程shell如RSH或者SSH提供文件。SSH模式下,rsync客户端运行程序必须同时在本地和远程机器上安装。 全量与增量 全量:将全部数据进行传输覆盖 增量:只传输差异部分的数据 rsync通过独特的“quick check”算法,实现增量数据传输 rsync的功能 类似与cp命令
rsync error: error starting client-server protocol (code 5) at main.c(1648) sender=3.1.2
rsync 是一款开源的、快速的、多功能的、可实现全量及增量的本地或远程数据同步备份的优秀工具。Rsync软件适用于unix/linux/windows等多种操作系统平台。
上次数据通过NFS拷贝过去后,只是实验一下,还没有真正迁移,现在两边数据又有不一样的;这次准备用rhel本身的rsync服务保持数据同步
源服务器的密码文件不用指定用户名,用户名在使用同步命令的时候才用到,目前源服务器的准备工作已经完成了。
rsync是一个功能非常强大的工具,Rsync的命令格式可以为以下六种: rsync [OPTION]... SRC DEST rsync [OPTION]... SRC [USER@]HOST:DEST rsync [OPTION]... [USER@]HOST:SRC DEST rsync [OPTION]... [USER@]HOST::SRC DEST rsync [OPTION]... SRC [USER@]HOST::DEST rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST] 对应于以上六种命令格式,rsync有六种不同的工作模式: 1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup 2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src 3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data 4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.17.5.13::www /databack 5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.17.5.13::www 6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.17.5.13/www rsync参数的具体解释如下: -v, --verbose 详细模式输出 -q, --quiet 精简输出模式 -c, --checksum 打开校验开关,强制对文件传输进行校验 -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD -r, --recursive 对子目录以递归模式处理 -R, --relative 使用相对路径信息 -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。 --backup-dir 将备份文件(如~filename)存放在在目录下。 -suffix=SUFFIX 定义备份文件前缀 -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结 -L, --copy-links 想对待常规文件一样处理软链结 --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结 --safe-links 忽略指向SRC路径目录树以外的链结 -H, --hard-links 保留硬链结 -p, --perms 保持文件权限 -o, --owner 保持文件属主信息 -g, --group 保持文件属组信息 -D, --devices 保持设备文件信息 -t, --times 保持文件时间信息 -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间 -n, --dry-run现实哪些文件将被传输 -W, --whole-file 拷贝文件,不进行增量检测 -x, --one-file-system 不要跨越文件系统边界 -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节 -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步 --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息 -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件 --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件 --delete 删除那些DST中SRC没有的文件 --delete-excluded 同样删除接收端那些被该选项指定排除的文件 --delete-after 传输结束以后再删除 --ignore-errors 及时出现IO错误也进行删除 --max-delete=NUM 最多删除NUM个文件 --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输 --force 强制删除目
链接:https://pan.baidu.com/s/1RbPZ6RntpzF3dJ5HLKkRUQ 提取码:psvm
前言 与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点, 通过rsync可以解决对实时性要求不高的数据备份需求,但随着文件数量的增大和实时同步的要求,rsync已不能满足需求,随之 rsync+inotify便应运而生。本文将讲解rsync的基础知识和如何基于rsync+inotify实现数据实时同步传输。 rsync相关介绍 rsync(remote sync)是一款快速增量备份工具(远程同步),支持本地复制,或者与其他SSH(安全传输)、rsync主机同步。
上一篇文章 Linux下使用ssh密钥实现无交互备份 这篇来说说如何安全的备份,还有一点不同的是上一篇是备份服务器拉取数据,这里要讲的是主服务器如何推送数据实现备份。 一、备份服务器配置rsync文件 vi /etc/rsyncd.conf #工作中指定用户(可以不指定为0) uid = 0 gid = 0 #相当于黑洞.出错定位 use chroot = no #有多少个客户端同时传文件 max connections = 200 #超时时间 timeout = 300 #进程号文件 pid file
uid = nobody # 该选项指定当该模块传输文件时守护进程应该具有的uid.默认值为”nobody”. gid = nobody # 该选项指定当该模块传输文件时守护进程应该具有的gid.默认值为”nobody”. max connections = 4 # 最大连接数为4 use chroot = no # 不使用chroot log file = /var/log/rsyncd.log pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock hosts allow = 28.16.67.10 # 哪些客户端IP可以访问rsync服务 #hosts deny = 192.168.100.0/24 # 哪些IP不可以访问rsync服务 0/24 代表 192.168.100 该IP段
os.setsid() #该方法做一系列的事:首先它使得该进程成为一个新会话的领导者,接下来它将进程转变一个新进程组的领导者,最后该进程不再控制终端, 运行的时候,建立一个进程,linux会分配个进程号。然后调用os.fork()创建子进程。若pid>0就是自己,自杀。子进程跳过if语句, 通过os.setsid()成为linux中的独立于终端的进程(不响应sigint,sighup等) umask的作用:#默认情况下的 umask值是022(可以用umask命令查看),此时你建立的文件默认权限是644(6-0,6-2,6-2),建立的目录的默认 权限是755(7-0,7-2,7-2),可以用ls -l验证一下哦 现在应该知道umask的用途了,它是为了控制默认权限,不要使默认的文件和目录具有全权而设的
Rsync 默认端口873 Wirer:zuoyuezong@gmail.com 描述:rsync服务是基于C/S模式的 作用:简单的说就是同步文件用的 环境: 两台linux服务器 192.168.152.153(hostname是amoeba) 作为服务器 ; 192.168.152.150作为客户端(hostname 是localhost) 目的:同步my.cnf配置文件到192.168.152.150服务器 操作步骤:
rsync 是 linux 系统下的数据同步、备份工具。可实现数据全量备份、增量备份、远端数据同步以及本地数据同步。
rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了--remote sync
创建一个需要定时执行的脚本文件,如:rsyncd.sh脚本:vi /etc/rsyncd.sh
由于我们经常使用rsync进行服务器文件的同步工作,但在配置过程中,会出现很多问题,下面的错误基本上都是通过客户端返回的错误进行分析 我们都是通过错误日志查看 在rsyncd.log里面或.err文件里面,大家可以用记事本打开查看。或者本页使用“ctrl+f”搜索关键字查找 注意windows下面我们需要给SvcwRsync用户,管理同步目录的所有权限,基本上这样就可以了 问题一: @ERROR: chroot failed rsync error: error starting client-ser
实验需求:在服务器(192.168.100.1)端搭建rsync服务,将/usr/src目录同步到客户端/rsync目录
需求:两台服务器(A、B),在服务器A上存放着大量的图片,需要在每天夜里三点同步到服务器B,源目录和目的目录都是/image
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u011415782/article/details/78657866
1、客户端脚本 这里我拿nfs服务器充当客户端 #/bin/bash Backup_dir="/backup" IP_info=$(hostname -i) #cerate backup dir mkdir -p $Backup_dir/$IP_info #tar backup data cd / tar zchf $Backup_dir/$IP_info/system_backup_$(date +%F_week%w).tar.gz ./var/spool/cron/root ./etc/rc.lo
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足。 首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的,并且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。 其次,rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时
rsync是一款优秀的、快速的、多平台的本地或远程数据镜像同步备份工具。适用于Unix/Linux/Windows等多种平台。
2、-z,--compress 传输是进行压缩以提高传输效率,--comperess -level = NUM可以按级别压缩
好了,上面配置完rsync了,那么接下来,假设有两台服务器,开发服务器dev及线上测试环境test,现在需要从dev将可运行代码更新到test上面去。
本人菜鸟,接触centos系统有一段时间了,但是要搞什么东西还是要全部去网上找教程。很多教程不知道为什么,有的不适合现在的系统,不知道是不是我的VPS的原因。现在整理一个可用的文件同步教程分享给大家。 一、服务器端配置: 执行如下代码: yum -y install xinetd vi /etc/xinetd.d/rsync 如果/etc/xinetd.d/rsync这个文件存在,就把里面的disable = yes改为disable = no 如果不存在,就把下面的内容写进去,然后保存. service
由于需要对网络设备做备份,备份文件是放到windows机器上的。现在需要将备份数据同步到linux备份机器上,想到的方案有三种: 1)将windows的备份目录共享出来,然后在linux服务器上进行挂载,最后对挂载目录进行定时同步。这种方式不太安全。 2)使用tftp、sftp方式,也不太安全。 3)推荐通过rsync方式(cwRsyncServer_4.1.0_Installer),windows机器到windows机器之间的定期同步也使用这种方式。 下面简单介绍下使用rsync方式的同步过程: 一、wi
1、sersync是基于inotify开发的,类似于inotify-tools的工具
1 什么是rsync?(理论) 简而言之主要特点就是实现全量与增量,本地和远程的数据备份工具,同样适用于indows。 官网http://www.samba.org/ftp/rsync/rsync.html rsync 在本地目录之间还能实现rm删除的功能 他根据文件和修改时间大小来同步 也可以根据权限不同来备份,需指定参数 2 特点(理论) 能有排除功能 能保持源目录和文件的时间权限和软连接属主等属性 能配合ssh通道来加密 可以作为服务,让客户端来连 支持匿名和支持认证 3 工作方式(理论) 本地之间传 类似cpmingl 借助ssh 守护进程方式(重要) 4实例用途(操作) (1)客户端模式 本地环境: 传文件 rsync /etc/hosts /opt 传目录 rsync -avz /opt /mnt <==相当于 cp -ap /opt /mnt ##注意/opt后的/加和不加的区别,很重要加了/只是把下面的文件过去,不加的话连自己opt都过去了,如果记不住就自己测试下 远程环境: 推送(传过去):rsync -avz /etc/hosts -e “ssh -p 22000” root@64.78.172.119:~ 拉取(从远端主机传过来):rsync –avz root@64.78.172.119:~/test.txt /etc/ -e “ssh -p 22000” ##记忆命令方法:本地目录 ---》》远程 ----》通过什么方式 -e “ssh -p22000” (2)守护进程模式 配置服务端rysnc Vi /etc/rsyncd.conf里的内容 uid = rsync gid = rsync use chroot = no max connections = 200 timeout = 100 pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log [oldboy] path = /oldboy/ ignore errors read only = false list = false hosts allow = 199.101.117.0/24 hosts deny = 0.0.0.0/32 auth users = rsync_backup secrets file = /etc/rsync.password ##如果在windows下编辑或者复制的编码到linux下就最好用这个命令处理下Dos2unix /etc/rsyncd.conf mkdir /oldboy useradd rsync -s /bin/nologin –M ## 新建个账户(和配置文件的uid-gid对应,此账户属性不能登录并且没目录) chown -R rsync.rsync /oldboy ##(重要) echo “rsync_backup:oldboy”> /etc/rsync.password ##rsync_backup是虚拟账户,到时候客户端连接就用这个账户和密码oldboy。 chmod 600 /etc/rsyncd.conf ##设置成别人都不能看到,因为里面有密码 rsync --daemon #启动进程 ##以上配置结束,下面是辅助的管理rsync的操作命令 lsof -i :873 ##查看rsync服务是否起来 pkill rsync ##杀掉进程 killall rsync ##但不一定杀掉 判断杀掉否就再执行一次,提示no programs killed就说明对了 ps -ef |grep rsync ##客户端配置:只要这两步即可 echo “oldboy”>/etc/rsync.password #这个路径和服务端路径没任何关系,为了规范而已,密码必须和服务那相同 chmod 600 /etc/rsync.password ##当配
前面介绍了一些关于rsync的功能与一些具体的命令格式、参数的使用意义等,今天我们来聊一聊整个实际生产过程中的实战操作过程
rsync 是一个用于增量文件传输的开源工具,不得不说,rsync简直是不同服务器间传输文件、同步文件的利器。与FTP相比,它具有非常简单的安装和配置方法。而且,rsync可以只拷贝发生过变化的文件,这就让传输效率非常高。如果你考虑安全问题,也可以通过 ssh 协议来进行传输。rsync 用来进行备份和镜像也非常棒,它的这些特性可能是你非常需要的:
题目要求 注意:博主使用的系统为: [root@web01 ~]# uname -a Linux web01 2.6.32-696.el6.x86_64 #1 SMP Tue Mar 21 19:29:05 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux 实例1-1 服务器及IP主机名规划 已知 4 台服务器主机名主机对应信息见下表: 服务器说明 外网 IP(NAT) 内网 IP(NAT) 主机名 web服务器 10.0.0.7/24
描述: Rsync(remote synchronize)是一个提供快速增量文件传输的开源实用程序, rsync是根据GNU通用公共许可证免费提供的,目前由Wayne Davison维护。
部署NFS集群热备高可用环境,用作jumpserver集群的远程存储,实现jumpserver数据持久化。
rsync,英文全称是remote synchronize,是一款实现远程同步功能的免费软件,它在同步文件的同时,可以保持原来文件的权限、时间、软硬链接等附加信息。 rsync提供了一个客户机和远程文件服务器的文件同步的快速方法,而且可以通过ssh方式来传输文件。甚至还可以实现只同步一个文件里有变化的内容部分,所以可以实现快速的同步备份数据。同时,rsync还可以实现同步本地数据、删除文件和目录的功能。
Rsync是Linux系统中的数据镜像备份工具,通过rsync可以将本地系统数据通过网络备份到任何远程主机上。rysnc不仅仅能对不同位置的文件和目录进行同步,还可以差异计算,压缩传输文件来最小化数据传输,和cp命令相比,rysnc的优势在于高效的差异算法。并且,rysnc还支持网络数据传输,在复制文件的同时,会把源端与目的端的文件进行比较,只有当文件不一样的时候在进行复制。具有以下特性:
rsync是Liunx下的远程数据同步工具,可快速同步多台服务器间的文件和目录,并可实现增量同步以减少数据的传输。
rsync是一款开源,快速,多功能的可实现增量的本地或远程的数据镜像同步备份的优秀工具。适用于多个平台。从软件名称可以看出来是远程同步的意思(remote sync)可实现全量备份与增量备份,因此非常适合用于架构集中式备份或异地备份等应用。
rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了——remote sync。
领取专属 10元无门槛券
手把手带您无忧上云