前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >linux 使用 mwget 实现多线程下载

linux 使用 mwget 实现多线程下载

作者头像
dys
发布2018-04-03 14:36:31
3.1K0
发布2018-04-03 14:36:31
举报
文章被收录于专栏:性能与架构性能与架构

linux中的wget是一个常用的下载命令,但它是单线程的

场景

我的项目中,用户上传图片时为了减轻服务器压力,直接把图片上传到了阿里云存储中,同时还希望自己服务器保留用户的图片,就使用了wget定时从阿里云获取图片 随着用户上传图片量的增加,希望更快的下载图片,使用单线程的wget执行下载任务稍显不足,就想自己写一个多线程下载程序,这时发现了一个多线程版本的wget - mwget,马上安装试用

测试

云存储中有一个11M的图片,分别使用 wget 和 mwget 进行下载测试,各测试了5次,从平均结果看,mwget 的确更快,较wget快了3倍左右 初次测试结果很不错,后期会在不同时间点和对更多的文件进行下载测试,如果结果很稳定,会考虑在正式环境使用

安装

下面是安装过程,有兴趣的话可以试下 # wget http://jaist.dl.sourceforge.net/project/kmphpfm/mwget/0.1/mwget_0.1.0.orig.tar.bz2 # tar -xjvf mwget_0.1.0.orig.tar.bz2 # cd mwget_0.1.0.orig # ./configure # make # make install 安装 mwget 时可能会需要 xmlparser、gettext、intltool,我的系统为centos,执行下面的几个命令来安装 # yum install perl-XML-Parser # yum install gettext # yum install intltool

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2016-01-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 JAVA高性能架构 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档