前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >服务器日志备份超节省空间的思路

服务器日志备份超节省空间的思路

作者头像
张戈
发布2018-03-23 17:22:44
2.3K0
发布2018-03-23 17:22:44
举报
文章被收录于专栏:张戈的专栏张戈的专栏

这两天,监控频繁发来服务器磁盘空间 90%+的报警,打扰睡觉不说,塞得满满的总是不舒服的。刚来公司才 20 天,对于部分细节上的运维了解得还不是很到位,比如这备份机制是怎样的?于是,将几台空间老报警的服务器的文件及任务计划仔细看了下,总算是摸清楚了这新公司的重要日志的备份机制了:

服务器日志备份超节省空间的思路
服务器日志备份超节省空间的思路

由于最终存储备份的 2 台机器用的是增量同步备份,从而越来越大。而日志要留着以备查验,只好考虑做压缩备份了。

于是把日志来源服务器 A、B...N 等服务器上的 rsync 备份脚本修改如下,同步之前先做压缩(8-17 行):

代码语言:javascript
复制
#!/bin/bash
client="192.168.1.$1"
project='website'
passwordFile='./password'
src='/data/logs/resin/'
dest="accesslog@192.168.1.240::accesslog/$project/$server/"
#Desc compress the rensin's log
begin=`date +%Y-%m-%d-%H:%M`
cd $src
echo ***********Compress start at $begin**************>>compress.log
echo the file list of Compressing this time:>>compress.log
for file in `find . -name "*201[3-9]*"  -type f ! -name "*.tar.gz"`;do
        tar cvzf $file.tar.gz $file >>compress.log && rm -f $file
done
echo ***********Compress Completed at `date +%Y-%m-%d-%H:%M`**************>>compress.log
#rsync
cd /data/scripts/accesslog_rsync
rsync -ahrv --delete --delete-excluded --exclude='jvm-default.log*' --exclude='watchdog-manager.log*' --password-file=$passwordFile $src $dest
exit 0

压缩完成之后再进行 rsync 同步备份。修改后的备份机制如下:

服务器日志备份超节省空间的思路
服务器日志备份超节省空间的思路

写完脚本,并做好任务计划之后,我开始写脚本压缩日志来源服务器及最终备份服务器上已存在的日志文件。由于这些日志文件都是文本格式,压缩效果非常赞!体积几乎减小了十倍!

下面是一台备份目录做压缩前后的对比截图

压缩前:264G

服务器日志备份超节省空间的思路
服务器日志备份超节省空间的思路

压缩后:30G

服务器日志备份超节省空间的思路
服务器日志备份超节省空间的思路

压缩费时:3 小时左右。

写在最后:其实这些备份方法在老公司一直都在用的,新公司一直都是由开发人员兼顾运维, 估计也没考虑那么多了吧!文中的脚本非常简单,主要分享了一个服务器日志备份的省空间思路,没啥技术含量,高手勿喷,哈哈!

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2014年07月10日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档