前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >邹方明:看腾讯云如何架构海量存储系统

邹方明:看腾讯云如何架构海量存储系统

原创
作者头像
腾讯云开发者社区
发布2018-01-15 17:36:06
4K0
发布2018-01-15 17:36:06
举报
文章被收录于专栏:腾讯云开发者社区头条

回首腾讯云存储十年的历程,腾讯云存储业务中心总监邹方明将其划分为四个阶段:萌芽时代、图片时代、视频时代和云时代。

腾讯云存储面临的第一个大挑战正是在UGC图片时代兴起之初。当时,传统的三层储存架构模式在性能、IO及成本方面都明显难以招架海量的日志和图片上传。腾讯云存储适时推出了系统自动化运营方案,通过实时监测物理区域,在3秒内就能做出反应,对校表储存量超过80%的存储磁盘进行扩容,极大地节省了传统扩容方式所耗费的时间与人力。

腾讯云存储业务中心总监邹方明
腾讯云存储业务中心总监邹方明

但在自动化扩容运营系统基本适应图片时代后,新的问题开始出现:当空间、动态以及QQ、朋友圈相册每天上传量高达20亿级别的时候,文件删除量也达到了50%,之前设计的磁盘条带化整理系统遭受挑战。为了便于磁盘的自动回收,腾讯云存储将磁盘分成同等大小的空间并进行分片分头的整理,留存出10%到15%的冗余利用率,解决了当时的问题。

当腾讯云存储的数据储存增长量在四年时间内从100P到1000P,腾讯云存储接到的需求也不断增多。面对超大容量源文件存储设备消耗量大、维护成本高的问题,腾讯云存储通过文件压缩、转码、解码的方式,将一个文件一个索引转换为多级索引,每个级别索引仅代表一个小分片,把这些小分片累积起来以支持更大的存储,强力解决了这一问题。同时,腾讯云存储通过设计纠删码的方式,为文件留出3—4份纠删冗余并分别存在多台设备里,最终使文件存储大小压缩到1.3—1.4份,极大的减少了原先存储的设备量。

同时,这一纠删码技术也运用到信息安全保障中:在单地数据中心出现问题时,这一技术能保障另一共存数据中心能及时完整地进行数据的整合并恢复归档,在降低成本的同时,极大程度地保障数据的安全。

点击下载演讲资料:

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档