专栏首页arxiv.org翻译专栏异构服务器集群中的负载平衡:来自产品形式排队模型的见解

异构服务器集群中的负载平衡:来自产品形式排队模型的见解

有效利用数据中心中的服务器需要性能分析方法,不仅考虑需求的随机性,还考虑服务器的异构性。尽管最近的几项工作证明了经典负载平衡算法在多服务器模式下的异构感知变体的最优性结果,但我们仍然缺乏对有限大小系统中异构性对性能影响的基本理解。在本文中,我们考虑了一种负载平衡算法,该算法导致了一个产品形式的排队模型,因此,即使在服务器数量有限的情况下,也可以准确地进行分析。我们开发了新的分析方法,利用其产品形式的平稳分布来理解服务器的速度和缓冲区长度对性能的联合影响。这些分析结果得到了涵盖各种情景的数值评估的支持和补充。

原文标题:Load Balancing in Heterogeneous Server Clusters: Insights From a Product-Form Queueing Model

原文:Efficiently exploiting servers in data centers requires performance analysis methods that account not only for the stochastic nature of demand but also for server heterogeneity. Although several recent works proved optimality results for heterogeneity-aware variants of classical load-balancing algorithms in the many-server regime, we still lack a fundamental understanding of the impact of heterogeneity on performance in finite-size systems. In this paper, we consider a load-balancing algorithm that leads to a product-form queueing model and can therefore be analyzed exactly even when the number of servers is finite. We develop new analytical methods that exploit its product-form stationary distribution to understand the joint impact of the speeds and buffer lengths of servers on performance. These analytical results are supported and complemented by numerical evaluations that cover a large variety of scenarios.

原文链接:https://arxiv.org/abs/2109.00868

原文作者:Mark van der Boor (TU/e), Céline Comte (TU/e)

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 架构 | 大型网站分布式高并发架构设计汇总

    本文多数内容为小编精心总结,呕心沥血完成,切勿抄袭沿用。 参考文献《架构知识》、《深入理解java》 ---- 章节目录: 前言 前端架构 应用层架构 服务层架...

    码神联盟
  • 架构 | 大型网站分布式高并发架构设计汇总

    本文多数内容为小编精心总结,呕心沥血完成,切勿抄袭沿用。 参考文献《架构知识》、《深入理解java》 ---- 章节目录: 前言 前端架构 应用层架构 服务层架...

    码神联盟
  • 腾讯云TStack白皮书

    腾讯云TStack是腾讯基于自身强大技术能力和海量运营经验推出的私有云平台,提供集IaaS、PaaS和SaaS为一体的综合云服务解决方案;支持对国产CPU的虚拟...

    腾讯云TStack
  • 《大型网站技术架构》学习笔记-02架构篇

    上一篇文章已经介绍了网站系统最需要关注的5大质量属性,接下来对这些特性进行详细介绍(这部分有部分内容会显得有些陈旧,之后会进行更新)。 ? 高性能架构 网站...

    用户1216676
  • 从分层分区传统架构向云网架构转型 ——基于SDN的下一代金融云网络联合研究与应用实践

    编辑手记:金融云建设是一项技术集成创新、产业协同创新的重大、复杂性高的系统工程工作,金融机构技术研发应立足于金融科技核心,聚焦于SDN等技术应用之金融机构的特色...

    数据和云
  • Node 服务端系统架构设计基本思想及常见场景解决方案

    本文旨在给前端同学在进行nodejs服务端项目的架构设计时提供一些基本思路及常见场景的解决方案。开发node服务本质上属于服务端开发的范畴,但由于今时今日nod...

    winty
  • 基于 Docker 的微服务架构实践

    基于 Docker 的容器技术是在2015年的时候开始接触的,两年多的时间,作为一名 Docker 的 DevOps,也见证了 Docker 的技术体系的快速发...

    烂猪皮
  • 负载均衡的健康检查

    腾讯云的负载均衡产品发布至今,产品形态变化还是比较大的,最开始有传统型负载均衡,应用型负载均衡,后面结合自身产品特性以及云上相关用户的产品需求,逐渐开始改造,使...

    云售后焦俊成
  • 前阿里开发工程师的分享微服务之基于Docker的分布式企业级实践前言Microservice 和 Docker服务发现模式服务端发现模式服务注册第三方注册模式 Third party registra

    前言 基于 Docker 的容器技术是在2015年的时候开始接触的,两年多的时间,作为一名 Docker 的 DevOps,也见证了 Docker 的技术体系的...

    Java架构
  • 云帮解析系列(二):技术架构

    云帮是按照面向服务的架构来设计的。目前大多数集群组件都是通过容器镜像的形式发布和运行的。后续我们会将所有的组件都容器化,通过Kubernetes集群保障组件的高...

    Rainbond开源
  • 云帮解析系列(二):技术架构

    Rainbond开源
  • 《亿级流量网站架构核心技术》概要 《亿级流量网站架构核心技术》目录一览

    本书暂定名称为《亿级流量网站架构核心技术——跟开涛学搭建高可用高并发系统》,如有好的书名建议欢迎留言,必当重谢。内容已交由出版社编辑,相信很快就会和大家见面。主...

    大道七哥
  • 浅谈Web网站架构演变过程及各阶段所用的技术和架构设计(转)

      我们以javaweb为例,来搭建一个简单的电商系统,看看这个系统可以如何一步步演变。

    wuweixiang
  • DevOps的分与合(下)

    认真评估你的软件的交付机制以及运维团队左移和右移的程度是你选择采用何种 DevOps 分合策略,以及 DevOps 实践是否成功的关键因素。

    用户1348170
  • 简明入门讲义——如何实现可扩展的 Web 服务

    可扩展的应用服务器(Application Server)集群藏身于负载均衡器(Load balance,LB)背后,LB 将负载(即用户请求)平均地分配到各个...

    FesonX
  • 简明入门讲义——如何实现可扩展的 Web 服务

    可扩展的应用服务器(Application Server)集群藏身于负载均衡器(Load balance,LB)背后,LB 将负载(即用户请求)平均地分配到各个...

    benny
  • 跨园区容灾,升级不停服:高可用负载均衡集群实践

    近期,针对一些客户对腾讯云产品可用性的问询,腾讯云基础产品团队对负载均衡产品的原理做出详细阐述,并希望通过对腾讯负载均衡集群底层架构的实现的讲解分析,揭示其强劲...

    腾讯云中间件团队
  • 微服务之基于Docker的分布式企业级实践

    DevOps时代
  • BAT互联网大厂的后端主流技术栈是啥?

    何为后端开发?以一个网站为例,通常来说,前端研发注重页面的展示,交互逻辑。而后端研发,则注重在发生在前端背后(backend)的逻辑上,例如给前端返回数据,存储...

    zz_jesse

扫码关注云+社区

领取腾讯云代金券