腾讯云运维干货沙龙-海量运维实践大曝光 (一)

作者丨郭智文:腾讯高级工程师,手机QQ运维负责人。多年来,对移动互联网应用的接入质量度量、优化有丰富的实践经验,专注于业务架构优化、弹性伸缩、运营服务管理、帮助产品打造极致的技术基础和质量口碑。

12月16日,首期沙龙“海量运维实践大曝光”在腾讯大厦圆满举行。沙龙出品人腾讯运维技术总监、复旦大学客座讲师、DevOps专家梁定安,讲师腾讯手机QQ运维负责人郭智文,腾讯高级工程师魏旸,腾讯SNG资深运维专家周小军出席沙龙,并带来精彩的技术分享。为了便于大家学习,特将本次沙龙讲师的演讲内容进行了整理。您也可以在腾讯织云公众号下载本次演讲PPT。

一. 业务概况

手Q业务增长 2008-2017

手机QQ起源于2003年前后,到2008年同时在线用户数到达500万,到2009、2010年就已经达到千万级别,到2013年就突破亿级级别,短短5-6年时间,增长了200倍,2016前后达到2亿级别。

二.移动网络用户接入故障案例

重庆联通用户移动网络(2G/3G)故障

问题:

2014年12月4日早上,收到手机QQ监控告警,重庆联通部分用户访问异常。重庆联通2G、3G用户到所有IDC的网络质量变差,表现为丢包变高。但对比组重庆联通宽带Wifi用户质量正常。

我们从客户端上万日志监控里面看,在12月4号凌晨,发现重庆那个地方从3%涨到4%左右,其它的有些涨到10%。

业务运维同事通过腾讯网络中心联系到重庆联通网络负责人,经过多轮沟之后,确认确实是运营商在凌晨时段割接网络引起,运营商与厂商经过两次调整最后故障才得以解决。

通过上述例子,我们可以发现,在用户与业务服务器之间,存在着一个漫长的路径: 从手机侧到附近基站,再到移动的GGSN,再经过互联网骨干网,再到腾讯服务器。

香港数码通与新世界电讯联网问题

QQ日活跃用户有6亿多,这么多的用户数,除了分布在国内,也全球也有不少用户。这些全球的移动用户是接入到全球其他的移动网络运营商。这些广泛的运营商对网络的管控也是有很多潜规则的,是我们无法预料到的。

这个就是我们的一个从用户侧到无线网络,到互联网,再到后台服务器的架构。

其实最主要的就是由于WiFi与移动网络,不是物理连接的,是无线连接的,这会带来一些高丢包率,高延时的问题。

最上面是我们的后台服务层。然后,随着用户规模的增长,从百万级到千万级,然后到亿级,可用性要求更高了,逐步从一个中心演变成双中心,进而达到三中心。

三. 业务后台架构及部署优化

2G时代(2004 - 2010)

在早期2G网络时代,用户手机经过运营商网关访问网络,是会经过严格的防火墙策略限制的。 这导致了业务侧的业务部署,服务端口等都要向运营商申请加可信策略,才能被移动用户访问到。

在2G时代,那时候规模还比较小,主要在深圳地区,移动也没有移动机房,一开始就都部署在电信的机房里面。 晚高峰时候移动用户跨网登录到电信服务器,登录过程常常需要等待数秒。

3G时代(2011 – 2013)

2011年起,国内运营商的3G网络逐步发展起来,WAP网关和NET网关也逐步融合了,运营商socket限制逐步取消。业务侧也逐步增加了移动、联通机房部署,实现用户非跨网接入。

4G时代(2014 – 2017)

2013年手Q已经超过一亿级在线了。当我们到一亿用户的时候,那时候我们要考虑,业务不太适合只放深圳地区了。

于是,在同时在线过亿后,单地域支撑存在风险, 我们业务进行了架构优化, 逐步从深圳分布,演进成深圳、天津两地分布,并进一步演进成深圳、天津、上海三中心分布。

我们是2015年6月份完成了开普勒项目,到2015年8月份,天津港就发生了爆炸事件,基于三中心分布架构的能力,我们大概花了一个小时,在用户几乎无感知的情况下面,平滑的把用户调度到另外两个中心。

四. 全局智能调度

全网网络状况统计分析

• 覆盖广,数据可信度高 –— 亿级在线联网数据

• 强大的实时干预能力 —- 5分钟级自动调度

• 极致加速 —- 调度粒度细分到VIP下的某端口

• 自适应中国运营商的复杂环境 —- 多发故障,多出口,跨网限制

国内的三大运营商,还有中小运营商网络环境也非常复杂,出口的限制也比较多,基于这套系统,我们能够做到自适应。

智能调度系统后台架构

通过统计亿级在线的手机QQ/PCQQ的联网反馈数据,经过大数据分析处理,形成一个调度库。

每天都在发生的实时丢包干预效果

这是每一天网络波动图。从这图来看,5个省份有丢包的问题, 但是在我们实时的干预调度下,用户访问到跨地域的集群了, 丢包率降回到3%左右 效果很好。

平均登陆耗时对比

从我们的智能调度的抽样的案例来看,被智能调度干预的用户平均的登录耗时只有1.9秒,如果没有自动干预,用户需要8.6秒。

海外用户加速点

QQ海外用户数相对来说比例比较小,大概1%到2%左右。 一开始我们只是用香港去覆盖的,可能对香港周边国家的覆盖是没什么问题,但是距离比较遥远的国家,还是会带来高时延,高丢包率的问题。

我们的解决方法是,比如说在用户就近的地区布一些网络加速点,在这些加速点连到香港服务器,然后香港服务器走腾讯跨境专线回到深圳的集群。通过这种方式来解决。

五. 移动端网络性能优化

通信信道预激活 —- signaling加速

从统计数据看,在3G网络下,这个优化是可以把用户感知这个体验从600多毫秒降到400多毫秒,平均耗时减少了32%左右。

IP直连

我们是做了一种IP直通车的方案,既能够解决劫持问题,又能够解决访问速度最快的问题。目前已有30多个业务已经接入了手机QQ IP直通车服务了。

高时延下逻辑聚合

手机端还可以做的优化就是考虑把部分客户端的逻辑做到服务器逻辑里面去。

移动端网络高延时,考虑在Server侧做逻辑聚合。增加内网代理模块,代替客户端完成多次请求,一次性把结果返回给客户端,原先10+s耗时可优化到1-2s。

比如说像手机QQ ,我们做了一个优化,把登录联网这个逻辑做到一个注册代理的后台服务上,大大降低了客户端多次请求的耗时。这其实还有一些其他间接的好处,比如说我们在春节零点抢红包的时候, 我们是可以在注册代理做一些频率控制+队列来降低零点时刻爆发峰值对我们后台业务的冲击。

六. 总结

相关文章

腾讯云运维干货沙龙-海量运维实践大曝光 (二)

腾讯云运维干货沙龙-海量运维实践大曝光 (三)

沙龙PPT下载地址:

https://share.weiyun.com/5c406a57164ed4cf7e248160aebf74c3

原创声明,本文系作者授权云+社区-专栏发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏区块链大本营

BTA | 王涛:传统IT人如何用数据库思维来理解区块链?去中心化数据库也许是答案

27110
来自专栏FreeBuf

安全CDN市场分析 | 动作频出的背后,我们看到一个有野心的Incapsula

Incapsula 是一家专注于提供安全 CDN 服务的公司,以 DDoS 缓解方案与 Web 应用安全而闻名。最近也开始动作频繁,忙于在安全领域布局,它是否能...

2494
来自专栏鹅厂网事

TIDP-为用户提供最佳互联网访问质量

1495
来自专栏云计算D1net

数据浩若繁星 细数10个云指数的关键数字

如今,网络越来越发达,全球大数据产业日趋活跃,数据呈现井喷式增长,人们日常工作生活的每一个数据都源源不断的通过网络传送着,为了给个人和企业提供资金更多的云服务,...

2406
来自专栏云加新鲜事儿

孙国清:大规模容器化为小红书带来收益

容器化在近些年非常火热。小红书运维总监孙国清向大家解释了容器化的三大原因,并为大家带来了《小红书大规模容器化应用实践》的主题分享。他介绍了小红书在容器下面所用到...

3156
来自专栏韩伟的专栏

GMGC—腾讯如何打造一款实时对战手游

最近公众号停更了一段时间,因为一直忙于GMGC2016全球移动游戏大会的腾讯游戏服务展位工作,负责演讲:腾讯游戏开发者训练营—腾讯如何打造实时对战手游。这篇推送...

3185
来自专栏京东技术

【对话】京东技术11.11基础架构峰会讲师:京东容器集群技术开放赋能

? 鲍永成 京东商城基础架构部技术总监 京东技术11.11基础架构峰会讲师 2013年加入京东,负责京东容器集群平台研发,带领团队完成京东容器大规模落地战略...

3446
来自专栏企鹅号快讯

这样做可以让物联网更安全

物联网范围不断扩大,企业、工业和公营事业应用也涵盖在内,物联网安全性不足的风险也随之高涨。但想要扩展,甚至为社会带来好处前,势必得先保障物联网的安全。否则,风险...

1959
来自专栏数字资产管理系统

数字资产币币交易系统开发-币币交易平台开发技术介绍

数字资产币币交易系统开发(+V信ruiec2723)、币币交易平台开发、数字资产区块链钱包APP开发、场外交易系统开发、合约交易平台开发、数字资产系统开发等各项...

31911
来自专栏程丽萍的专栏

CNTV 为何选择腾讯云 CDN ?

作为由中央电视台主办的国家网络广播电视播出机构,全面部署多终端业务架构,拥有中央重点新闻网站的中国网络电视台(英文简称 CNTV)面临原 CDN 服务提供商失败...

6070

扫码关注云+社区