因此,我有一个非常简单的备份脚本,每晚都作为cron作业运行,它是:
rsync -azhv /company/shared_files/ /mnt/ext_drive/backups/shared_files/company_share_backup_"`date +\%Y-\%m-\%d`"
以前,备份的大小约为20 G,运行时间约为10分钟,但两天前是80次,运行6+需要几个小时。有什么会不稳定的?
我的一般程序是将每个备份保留7天,然后从每周周日开始备份,以节省空间,因此理想情况下,我希望每天单独执行rsync,而不是以更自然的方式执行rsync,只更新已更改的备份中的文件。
我使用2TB硬盘和16G内存运行Debian,并将这些文件从我的Debian服务器传输到和2TB。
发布于 2014-10-24 16:51:22
有几件事你可以做。您不需要-z
标志来对本地副本进行rsync。压缩不用于非远程传输。
您可以更好地优化rsync对于小文件和其他选项(如-W
)的更改类型(无需预扫描即可传输整个文件)。
另外,您不应该删除目标上的文件吗?
更多关于您正在使用的实际操作系统、磁盘功能和备份目标的详细信息可能有助于更好地集中解决方案。
发布于 2020-11-02 14:31:00
请确保你不是在被黑客攻击的机器上,很多用户(包括我在内)都发现比特币矿工隐藏在rsync或其他进程后面。检查:
# crontab -l -u alex
lslogins
AllowUsers me mom dad
的一个非根用户其他报告https://askubuntu.com/questions/1115770/crond64-tsm-virus-in-ubuntu
发布于 2019-06-28 07:49:31
我想您的文件传输不受rsync
的限制,而是目标设备。它最初似乎发展迅速的原因是,您可能拥有大量的内存,并且您在/proc/sys/vm/dirty_ratio
和/proc/sys/vm/dirty_background_ratio
中有很大的价值。这允许从源到RAM之间写入所看到的进程,但是当RAM缓存已满,并且文件实际上需要写入磁盘时,您将看到进程减慢。
如果这种情况发生在最近的目标磁盘(例如,新的Seagate 4+ TB磁盘)中,则可能有SMR HDD目标设备。例如,Seagate 4 TB和6 TB SMR HDD只适用于您编写的前20 GB,因为驱动器有内部PMR缓存区域和慢得多的SMR区域,这都是内部处理的(这称为“驱动器管理”设置)。缓存满后,顺序写入的写性能从160 MB/s下降到25 MB/s左右,随机文件写入的写性能从80-160 MB/ to下降到1MB/160。这是设备的实际硬件性能,没有特殊的技巧可以帮助它。唯一真正的“修复”是等待设备完成任务。一旦存储设备继续工作足够长的时间(对于希捷SMR设备,这似乎是半个小时左右),内部缓存将被刷新到较慢的永久区域,然后该设备将再次为下一个~20 GB的突发快速。如果您只在一次突发中编写高达20 GB (在实践中在30分钟内),您将永远不会遇到这个问题。
不幸的是,大多数硬件厂商并没有公开快速缓存的数量,而且所有的规范编号都只是指快速缓存区域。在高速缓存满后,设备的性能通常要低得多。这种情况也发生在SSD设备上。例如,众所周知,三星EVO系列产品表现出类似的行为,尽管硬件在其他方面是非常好的。在三星EVO的情况下,下降并不像SMR驱动器的100倍,而是更像是2-3倍的慢。
https://serverfault.com/questions/639458
复制相似问题