首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >rsync占用CPU的100%和完成时间

rsync占用CPU的100%和完成时间
EN

Server Fault用户
提问于 2014-10-24 16:27:44
回答 3查看 17.6K关注 0票数 4

因此,我有一个非常简单的备份脚本,每晚都作为cron作业运行,它是:

代码语言:javascript
运行
复制
rsync -azhv /company/shared_files/ /mnt/ext_drive/backups/shared_files/company_share_backup_"`date +\%Y-\%m-\%d`"

以前,备份的大小约为20 G,运行时间约为10分钟,但两天前是80次,运行6+需要几个小时。有什么会不稳定的?

我的一般程序是将每个备份保留7天,然后从每周周日开始备份,以节省空间,因此理想情况下,我希望每天单独执行rsync,而不是以更自然的方式执行rsync,只更新已更改的备份中的文件。

附加细节

我使用2TB硬盘和16G内存运行Debian,并将这些文件从我的Debian服务器传输到和2TB。

EN

回答 3

Server Fault用户

回答已采纳

发布于 2014-10-24 16:51:22

有几件事你可以做。您不需要-z标志来对本地副本进行rsync。压缩不用于非远程传输。

您可以更好地优化rsync对于小文件和其他选项(如-W )的更改类型(无需预扫描即可传输整个文件)。

另外,您不应该删除目标上的文件吗?

更多关于您正在使用的实际操作系统、磁盘功能和备份目标的详细信息可能有助于更好地集中解决方案。

票数 13
EN

Server Fault用户

发布于 2020-11-02 14:31:00

请确保你不是在被黑客攻击的机器上,很多用户(包括我在内)都发现比特币矿工隐藏在rsync或其他进程后面。检查:

  • 查看用户cron作业:# crontab -l -u alex
  • 删除已找到的恶意cron作业中列出的文件夹
  • 删除/tmp中的隐藏文件夹
  • 删除/home/USER/..ssh/特准_key或更糟的/root/..ssh/授权键中的未知密钥
  • 安装ClamAv并设置每周扫描:链接
  • 超级用户:lslogins
  • /etc/ssh/sshd_配置应该只允许SSH:AllowUsers me mom dad的一个非根用户
  • 使用更健壮的密码并使用公钥登录。

其他报告https://askubuntu.com/questions/1115770/crond64-tsm-virus-in-ubuntu

票数 2
EN

Server Fault用户

发布于 2019-06-28 07:49:31

我想您的文件传输不受rsync的限制,而是目标设备。它最初似乎发展迅速的原因是,您可能拥有大量的内存,并且您在/proc/sys/vm/dirty_ratio/proc/sys/vm/dirty_background_ratio中有很大的价值。这允许从源到RAM之间写入所看到的进程,但是当RAM缓存已满,并且文件实际上需要写入磁盘时,您将看到进程减慢。

如果这种情况发生在最近的目标磁盘(例如,新的Seagate 4+ TB磁盘)中,则可能有SMR HDD目标设备。例如,Seagate 4 TB和6 TB SMR HDD只适用于您编写的前20 GB,因为驱动器有内部PMR缓存区域和慢得多的SMR区域,这都是内部处理的(这称为“驱动器管理”设置)。缓存满后,顺序写入的写性能从160 MB/s下降到25 MB/s左右,随机文件写入的写性能从80-160 MB/ to下降到1MB/160。这是设备的实际硬件性能,没有特殊的技巧可以帮助它。唯一真正的“修复”是等待设备完成任务。一旦存储设备继续工作足够长的时间(对于希捷SMR设备,这似乎是半个小时左右),内部缓存将被刷新到较慢的永久区域,然后该设备将再次为下一个~20 GB的突发快速。如果您只在一次突发中编写高达20 GB (在实践中在30分钟内),您将永远不会遇到这个问题。

不幸的是,大多数硬件厂商并没有公开快速缓存的数量,而且所有的规范编号都只是指快速缓存区域。在高速缓存满后,设备的性能通常要低得多。这种情况也发生在SSD设备上。例如,众所周知,三星EVO系列产品表现出类似的行为,尽管硬件在其他方面是非常好的。在三星EVO的情况下,下降并不像SMR驱动器的100倍,而是更像是2-3倍的慢。

票数 1
EN
页面原文内容由Server Fault提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://serverfault.com/questions/639458

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档