前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >在硬化负载均衡这条路上,字节不是第一个,也不是最后一个

在硬化负载均衡这条路上,字节不是第一个,也不是最后一个

作者头像
用户6874558
发布2023-03-06 14:21:59
1.1K0
发布2023-03-06 14:21:59
举报

从爱奇艺DPVS

即基于DPDK的4层负载均衡器

负载均衡 - 高并发网关设计原理与实践

到阿里云

推出的面向7层应用

ALB Ingress-云原生网关

阿里云:负载均衡的前世今生

再到腾讯云TGM的

核心组件Region EIP网关

采用可编程设备作为下一代网关

可以看到

四层负载均衡

逐渐硬化成为趋势

软的不行,负载均衡就来硬的

在这条路上

更早做出尝试的是

今天深陷泥潭的Mate公司

SilkRoad方案17年即登上Sigcomm

所以一点也不奇怪

字节跳动主导的硬件负载均衡

Tiara在今年登上第19届USENIX大会

摘要 带状态的四层负载平衡器(LB)部署在数据中心的边界,将互联网流量分配到后端真实服务器。当流量达到Terabits时,传统的软件负载平衡器通过增加昂贵的服务器来实现扩展。最近也有通过交换机加速来有效提升性能,但它们都未能将大量的并发流量卸载到有限的片上SRAM中。 本文介绍了Tiara,一种用于带状态的四层负载平衡器的硬件架构,旨在支持高流量(>1Tbps)、大并发流(>10M)和每秒许多新连接(>1M),而且不需要对流量模型进行任何假设。Tiara的三层架构最佳地利用了异构硬件服务于负载均衡,包括用于快速路径的可编程交换机和FPGA以及用于慢速路径的X86服务器。 Tiara的核心思想是将LB快速路径分为内存密集型任务(真实服务器选择)和吞吐量密集型任务(数据包封装/解码),并将它们分别映射到最合适的硬件中(例如,将真实服务器选择映射到配备大容量的高带宽存储器(HBM)的FPGA中,将数据包封装/解码映射到高吞吐量的可编程交换机中)。 我们已经实现了一个全功能的Tiara原型,实验表明,Tiara可以在配备8块FPGA卡的整体服务器中实现极高的性能(1.6Tbps的吞吐量,80M并发流量,每秒1.8M个新建连接,快速路径的延迟小于4us),并且具有极高的成本、能源和空间效率。

前人方案已经汗牛充栋

Tiara与前辈以及SilkRoad有何不同

最核心就是硬件升级换代带来的软件灵活性

对扩展FPGA的

可编程Server-Switch感兴趣

可以进一步阅读如下相关产品资料

服务器型可编程交换机,强大的不是一点

对Tiara和SilkRoad负载均衡方案感兴趣的同学点赞和在看后,在公众号后台回复“tooyum29”可以获取下载地址。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-12-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 云深知网络 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 负载均衡 - 高并发网关设计原理与实践
  • 阿里云:负载均衡的前世今生
  • 软的不行,负载均衡就来硬的
相关产品与服务
负载均衡
负载均衡(Cloud Load Balancer,CLB)提供安全快捷的流量分发服务,访问流量经由 CLB 可以自动分配到云中的多台后端服务器上,扩展系统的服务能力并消除单点故障。负载均衡支持亿级连接和千万级并发,可轻松应对大流量访问,满足业务需求。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档