弹性服务器架构-连接一切的力量

"鹅厂网事"由深圳市腾讯计算机系统有限公司技术工程事业群网络平台部运营,我们希望与业界各位志同道合的伙伴交流切磋最新的网络、服务器行业动态信息,同时分享腾讯在网络与服务器领域,规划、运营、研发、服务等层面的实战干货,期待与您的共同成长。

网络平台部以构建敏捷、弹性、低成本的业界领先海量互联网云计算服务平台,为支撑腾讯公司业务持续发展,为业务建立竞争优势、构建行业健康生态而持续贡献价值!

计算-互连-数据

一颗芯片,寄存器通过总线向运算器输送数据。一台服务器,内存通过DDR总线与处理器完成数据互动。一个数据中心,存储集群通过以太网与计算集群形成对数据流的处理和加工。互连是算力与数据的纽带,从芯片内部到数据中心,都能很好地诠释这一基本体系组合。由此展开对服务器体系架构的遐想,在这个注重高效计算和存储的时代,实现多元化系统资源的敏捷交付:端到端的解耦型部件资源,借助于高性能的可定义互连,按需组装并柔性交付服务器,具备裸机性能,却提供更灵活的生命周期管理效率。

GONGGA系统架构

GONGGA系统正是我们面向这一理念的全面实践,让服务器配置具备”可编程”的原力。科技演进步伐持续突飞猛进,芯片架构与工艺的迭代,物理颗粒的升级与创新,总线协议的优化与革命, 推动着供给侧的多样性。同时人工智能/云计算/IoT等业务的崛起,业务性能与配置配比需求的差异化诉求则是刚需。

如何做到内外融合的发展,具有腾讯基因的GONGGA服务器正是基于这样的思考,开启了对未来的一次探索:统一系统形态,灵活资源配置。2U规格的系统规格,在腾讯基础架构中拥有最好的适配性。小小的机箱内,不再有CPU/内存等传统计算单元,取而代之的是高速PCIe 互连芯片,通过PCIe内部互连拓扑,实现PCIe设备与传统CPU计算资源的解耦合。基于PCIe互连拓扑,通过管理芯片实现PCIe资源的重构。这样就实现了业务端在源扩充的精准匹配,可以更深层次的针对业务进行资源调整,为智能分配提供基础。通过对传统资源的解耦和重构, 依托腾讯自动化运营平台, 满足业务部门的动态需求。

高性能存储

系统前窗(位置1)可以配置了多种模块化结构,可以容纳24块U.2 NVMe盘或者32条Ruler SSD,单盘30TB的存储容量,让单系统提供了多达1PB的高性能存储密度。通过GONGGA系统内置的PCIe交换芯片,就可以开启基于裸盘存储的共享经济初级模式。多用户按需对物理盘位进行切分使用,属于PCIe直挂形态,硬件性能无损。后期设计升级后可以基于SR-IOV进行更加精细化的空间划分和管理。例如,当现有系统需要存储升级或扩容时,用户可以在现有核心系统增加一块PCIe扩展卡,无须更换新服务系统,即可实现升级和扩容,避免大量数据迁移,并提高现有系统的使用有效性。

在后窗配置全高全长NVMeoF板卡, 那就是块设备输出的共享进阶模式。多张NVMeoF板卡南向连接NVMe设备,北向提供100GbE网络带宽,以NVMeoF协议对外提块设备服务,PCIe交换芯片内建板卡间通信链路,在未来能提供额外的硬件冗余扩展功能。通过这样形态的组合,结合应用层的资源调度和负载均衡,就可以实现类似于AWS EBS的网络块设备服务了。NVMeoF板卡上的ARMv8拥有强大的处理能力,也支持相关二次开发,满足自有协议的实现和优化。

AI

在AI in All的时代,GONGGA系统可以支持的部件中少不了各类计算加速硬件。从Training导向的全高全长规格GPU,多形态的Inference加速卡,到通用FPGA板卡,都可以量化支持。主流训练GPU系统以一机8卡为主,使用GONGGA系统可以实现更灵活的扩展。4台GONGGA系统组装为拥有16卡计算的加速系统,GPU与处理器之间的带宽可通过接线形式自由配置,还能支持一系列提升训练效率的功能:GPUDirect RDMA,GPU之间的P2P通信等。

当前窗装满24块U.2形态的Inference加速卡,可以想象一下基于单机的图片/语音/文本等数据处理能力了。GONGGA系统又融合了通用计算的支持能力,可容纳8张单路高主频x86微服务器刀片,满足基于游戏和Web服务器等定向应用的诉求。

面向未来的互连理念

面向各类异构设备互连的解耦与融合,是GONGGA系统的基本设计思想。从1.0版本的PCIe互连开始,Gen-Z/OpenCAPI/CCIX等互连技术在业界蓬勃发展,需要我们深入探索和参与,结合腾讯运营理念,拥抱开放, 逐步迭代。

总结

以上是对系统设计和功能场景的介绍,我们也需要对GONGGA系统带来的价值来进行分析比对。对于AI应用4U8卡形态的训练机型,2台GONGGA系统加上一台通用服务器作为机头可以满足同等功能,由于采用了自主研发模式,保证成本透明度,比同期采购的4U8卡机型在L6级别显著降低。针对NVMe块设备系统,以2台2路服务器并各配16块NVMe盘为参照,1台GONGGA系统可以配置32块Ruler-SSD和内置2块单路系统机头,以1:16形式提供相同块设备服务,而且具备机头间互备的硬件能力,降低系统总成本的同时, 也实现机架位的隐性扩容。还有其他扩容和升级项目,面向硬件的连接方式,减少了数据迁移和整体升级的代价,可以有效提升存量服务器的使用率,不作一一展开讨论了。

总结GONGGA系统的核心能力:1、面向多种硬件资源的解耦和重构能力;2、通用服务器形态下非凡的资源兼容和可视化能力;3、面对应用层完全透明的多种互联技术;4、依托于腾讯高度自动化运维平台的智能管理能力。仰望星空,励志前行,We’re heading for GONGGA!

欢迎关注公众帐号“鹅厂网事”,我们给你提供最新的行业动态信息、腾讯网络与服务器最接地气的干货分享,还有一大波互动交流板块和有奖活动正在筹备当中,需要您的热情参与哦,敬请期待!

注1:凡注明来自“鹅厂网事”的文字和图片等作品,版权均属于“深圳市腾讯计算机系统有限公司”所有,未经官方授权,不得使用,如有违反,一经查实,将保留追究权利;

注2:本文图片部分来至互联网,如涉及相关版权问题,请联系v_huanjian@tencent.com

原文发布于微信公众号 - 鹅厂网事(tencent_network)

原文发表时间:2018-03-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏GopherCoder

四个月,知识管理实践

18840
来自专栏腾讯社交用户体验设计

产品趋势的设计软着陆

19130
来自专栏人工智能头条

用 R &Python 在云端运行可扩展数据科学

18460
来自专栏PPV课数据科学社区

警察叔叔是怎么用大数据来思考与实践的

近年来,伴随着全国各地公安机关信息化的迅猛发展,数据共享和深化应用的需求空前高涨。但是,随着数据的汇聚和数据量的爆炸式增长,传统的数据库和数据仓库技术出现了诸多...

36790
来自专栏Java后端技术栈

最坏的不是面试被拒,而是根本没有面试机会!

本人在之前的博客里写了很多面试技巧,这是有个前提:至少候选人被面试了,在这个前提下,候选人哪怕失败了,至少也能用实战来检验和校对面试准备的结果,用句比较时髦的话...

14930
来自专栏数据和云

遇见未来 | 软件定义数据中心:人类文明运行在软件之上

互联网及其延伸,正在导向我们走向一个新的时代,软件技术在新一轮革命技术中毫无疑问是核心竞争力之一。C++语言发明人Biarne Stroustrup说,人类文明...

39160
来自专栏腾讯技术工程官方号的专栏

从有界到无界,腾讯新一代企业网引领安全创新

? 背景:2018年8月21-22日,由中央网信办、工信部和公安部指导,中国互联网协会联合阿里巴巴集团、蚂蚁金服和阿里云等主办的“2018网络安全生态峰会”在...

13640
来自专栏祝威廉

天天在做大数据,你的时间都花在哪了

那么延生出来,我们有没有想过大数据本身? 大数据到底是在做什么,为什么我做了这么多年的大数据,总是做不完呢?

14430
来自专栏敏捷开发&项目管理

测试驱动威力不分国界

最近公司开始了一个新项目,在国外成立了一个开发组5个人 老板想让他们使用TDD来进行开发(Unit Test),于是我和另两个中国同事就应招过去了两个星期(主要...

36940
来自专栏原创

Bad Push-让人恍然大悟的14种错误推送方式

导语 APP开发商们总是在不断尝试新的东西,有些行得通,有些却不行。 删除一封垃圾邮件是件微不足道的事情,又或者随手把一张无关紧要的广告纸丢进垃圾桶,但是消息...

45190

扫码关注云+社区

领取腾讯云代金券