专栏首页JAVA高级架构如何实现大型网站架构设计的负载均衡

如何实现大型网站架构设计的负载均衡

负载均衡 (Load Balancing) 负载均衡建立在现有网络结构之上,它提供了一种廉价有效透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。

大型网站负载均衡的利器

  • 全局负载均衡系统(GSLB)
  • 内容缓存系统(CDN)
  • 服务器负载均衡系统(SLB)

DNS域名解析的基本过程

最初的负载均衡解决方案(DNS 轮询)

优点

  • 基本上无成本,因为往往域名注册商的这种解析都是免费的;
  • 部署方便,除了网络拓扑的简单扩增,新增的 Web 服务器只要增加一个公网 IP 即可

缺点

  • 健康检查,如果某台服务器宕机,DNS 服务器是无法知晓的,仍旧会将访问分配到此服务器。修改 DNS 记录全部生效起码要 3-4 小时,甚至更久;
  • 分配不均,如果几台 Web 服务器之间的配置不同,能够承受的压力也就不同,但是 DNS 解析分配的访问却是均匀分配的。用户群的分配不均衡导致 DNS 解析的不均衡。
  • 会话保持,如果是需要身份验证的网站,在不修改软件构架的情况下,这点是比较致命的,因为 DNS 解析无法将验证用户的访问持久分配到同一服务器。虽然有一定的本地 DNS 缓存,但是很难保证在用户访问期间,本地 DNS 不过期,而重新查询服务器并指向新的服务器,那么原服务器保存的用户信息是无法被带到新服务器的,而且可能要求被重新认证身份,来回切换时间长了各台服务器都保存有用户不同的信息,对服务器资源也是一种浪费。

全局负载均衡系统(GSLB)

优势

  • 数据中心冗余备份
  • 多站点流量优化
  • 确保用户体验 全局负载均衡系统(GSLB)的原理 DNS 检查工具网上有很多,感兴趣的可以搜索一下。

内容缓存系统(CDN)

  • 内容缓存系统(CDN)之静态加速
  • 内容缓存系统(CDN)之动态加速 动态加速的特点
  • 智能路由
  • 传输控制协议(TCP)优化
  • HTTP 预载

服务器负载均衡系统

应用背景

  • 访问流量快速增长
  • 业务量不断提高 用户需求
  • 希望获得 7×24 的不间断可用性及较快的系统反应时间 负载均衡必须满足性能、扩展、可靠性

服务器负载均衡系统三种接入方式

服务器负载均衡系统的常见调度算法

  • 轮询(Round Robin)
  • 加权轮询(Weighted Round Robin)
  • 最少连接(Least Connections)
  • 加权最少连接(Weighted Least Connections)

健康性检查

健康性检查算法的目的:通过某种探针机制,检查服务器群中真实服务器的健康情况,避免把客户端的请求分发给出现故障的服务器,以提高业务的HA能力。

目前常用的健康性检查算法:

  • Ping(ICMP)
  • TCP
  • HTTP
  • FTP

系统加速

优化功能 -SSL 加速

优化功能 -HTTP 压缩

HTTP压缩是在Web服务器和浏览器间传输压缩文本内容的方法。F5 HTTP[压缩技术](https://zm10.sm-tc.cn/?src=l4uLj8XQ0IWXlpuekNGdnpabitGckJLQjJqejZyXwIiQjZvC2rrK2se62se92rrI2r282r7G2rrJ2se%2B2sfP2rrJ2sa82r652ZmNwo6doIyano2cl6Cah4%2FZlprCiouZxw%3D%3D&uid=96961868b00c02996d71d0627348e454&restype=1&from=derive&depth=2&v=1&link_type=12)通过具有智能压缩能力的 BIG-IP 系统可缩短[应用交付](https://zm10.sm-tc.cn/?src=l4uLj8XQ0IWXlpuekNGdnpabitGckJLQjJqejZyXwIiQjZvC2rrK2r2%2B2sbL2rrI2sbL2r7H2rrL2r2%2B2r7L2rrL2r292sbH2ZmNwo6doIyano2cl6Cah4%2FZlprCiouZxw%3D%3D&uid=96961868b00c02996d71d0627348e454&restype=1&from=derive&depth=2&v=1&link_type=12)时间并优化带宽。HTTP压缩采用通用的压缩算法压缩HTML、JavaScript或CSS文件。压缩的最大好处就是降低了网络传输的数据量,从而提高客户端浏览器的访问速度。

优化功能 - 连接复用

优化功能 -TCP 缓存

会话保持

会话保持 - 客户端源 IP 会话保持

源IP地址会话保持就是将同一个源IP地址的连接或者请求认为是同一个用户,根据会话保持策略,在会话保持有效期内,将这些发自同一个源IP地址的连接/请求都转发到同一台服务器。

当采用基于源地址的会话保持无法做到负载均分时,例如客户端发起连接请求的源IP地址相对固定,发生此类问题通常可采用基于应用层的会话保持方式,Cookie通常是存在于HTTP头中,现如今基于HTTP的应用被广泛使用,因此基于Cookie的会话保持越来越多的出现在服务器负载均衡解决方案中。 局限性: 对于非HTTP协议,或者客户端禁用Cookie,无效。

会话保持 -URL 哈希(Hash)会话保持

哈希会话保持的一个基本概念就是按照某个Hash因子,根据此因子以及后台存在多少台服务器计算得到的结果来选择将请求分配到那台服务器。哈希会话保持的特点是在后台服务器的健康状态不发生改变的时候,每个特定的Hash因子被分配到的服务器是固定的。其最大的优势是哈希会话保持可以没有会话保持表,而仅仅是根据计算的结果来确定被分配到那台服务器,尤其在一些会话保持表查询的开销已经远远大于Hash计算开销的情况下,采用Hash会话保持可以提高系统的处理能力和响应速度。

URL 哈希会话保持通常针对后台采用 Cache 服务器的应用场景,针对 URL 进行 Hash 计算,将同一个 URL 的请求分配到同一台 Cache 服务器,这样,对后台的 Cache 服务器群来说,每台 Cache 服务器上存放的内容都是不一样的,提高 Cache 服务器的利用率。

故障案例分析

Q&A 案例分析(1)- 循环跳转

故障现象: Web服务端对用户访问的URL进行判断,对于非https的请求,重定向到http站点,结果导致用户一直302跳转。 原因分析: 采用了负载均衡SSL加速功能,在服务端看到所有的用户请求都来自于http。 解决方案: 全站启用SSL加速。

Q&A 案例分析(2)- 用户 Session 丢失

故障现象: 用户在http站点上提交数据到同域名的https站点,web程序抛出session丢失的异常,用户提交数据失败。 原因分析: http和https在负载均衡设备上被认为是2个独立的服务,产生2个独立的TCP链接,会命中不同的真实服务器,导致session丢失。 解决方案: 在负载均衡设备上启用基于真实服务器的会话保持。

Q&A 案例分析(3)- 客户端源 IP 取不到

故障现象: 服务端获取不到用户外网的IP地址,看到的都是大量来自于内网特定网段的IP地址。 原因分析: 负载均衡设备启用了用户源地址转换(SNAT)模式,修改了TCP报文中的用户源IP。 解决方案: 负载均衡设备会用用户的外网IP改写x-forwarded-for值,服务端通过获取http协议中request header头的x-forwarded-for值作为用户源IP。IIS日志通过安装插件形式显示用户源IP。

服务器负载均衡设备选型

1. 价格因素 硬件设备:F5、 Citrix 、Redware 、A10 软件:LVS、Nginx、Haproxy、zen loadbalance

2. 性能 4/7 层吞吐量 (单位 bps) 4/7 层新建连接数(单位 CPS) 并发连接数 功能模块性能指标(ssl 加速、 HTTP 压缩、内存 Cache)

3. 满足真实和未来需求 1)如果确认负载均衡设备对所有应用的处理都是最简单的 4 层处理,那么理论上选择的负载均衡设备的 4 层性能稍高于实际性能需求即可。 2)如果确认负载均衡设备对所有应用的处理都是简单的 7 层处理,那么理论上选择的负载均衡设备的 7 层性能稍高于实际性能需求即可。 3)如果负载均衡设备处理的应用既有 4 层的也有 7 层的,建议按照 7 层应用的性能来考虑负载均衡设备。 4)如果确认自己的应用经过负载均衡处理时,需要复杂的 4 层或者 7 层处理,例如需要根据客户端的地址做策略性分发,需要根据 tcp 的内容做处理,需要根据 HTTP 头或者 HTTP 报文做处理,那么建议选择的负载均衡设备 4/7 层性能为真实性能需求的两倍。 5)如果负载均衡设备有混合的复杂流量处理并且还开启了一些功能模块,那么建议选择的负载均衡设备 4/7 层性能为真实性能需求的 3 倍。 6)考虑到设备需要轻载运行才能更加稳定,所以有可能的话在以上基础上再增加 30% 的性能。 7)如果还要满足未来几年的发展需求,在以上基础上还要留出未来发展所需要增加的性能。 8)不同负载均衡设备厂家由于不同的架构,使得某些设备在复杂环境下可能也表现的比较优秀,这个客户可以对比判断,但总体来说,以上建议适合于所有厂家的设备。

本文分享自微信公众号 - JAVA高级架构(gaojijiagou)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-01-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 从单机至亿级流量大型网站系统架构的演进过程

    阶段一、单机构建网站 网站的初期,我们经常会在单机上跑我们所有的程序和软件。此时我们使用一个容器,如tomcat、jetty、jboos,然后直接使用JSP/s...

    Java高级架构
  • 高并发解决方案--负载均衡

    Java高级架构
  • 9种高性能可用高并发的技术架构

    1、分层   分层是企业应用系统中最常见的一种架构模式,将系统在横向维度上切分成几个部分,每个部分负责一部分相对简单并比较单一的职责,然后通过上层对下层的依赖和...

    Java高级架构
  • 集群、分布式、负载均衡区别

      计算机集群通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作。在某种意义上,他们可以被看作是一台计算机。集群系统中的单个计算机通常称为...

    java乐园
  • 浅谈负载均衡

    负载均衡,英文:Load Balance,其含义是请求分发到多个粒度单元上进行执行操作,例如各种服务器、应用服务、中台服务、数据服务等,从而达到共同完成某项任务...

    程序猿Damon
  • 四层和七层负载均衡的区别

    ① 所谓四层就是基于IP+端口的负载均衡;七层就是基于URL等应用层信息的负载均衡;同理,还有基于MAC地址的二层负载均衡和基于IP地址的三层负载均衡。 换句换...

    后端技术探索
  • 四层和七层负载均衡的区别

    (一) 简单理解四层和七层负载均衡: ① 所谓四层就是基于IP+端口的负载均衡;七层就是基于URL等应用层信息的负载均衡;同理,还有基于MAC地址的二层负载...

    小小科
  • 负载均衡 - 综述

    1 什么是负载均衡 网络的各个核心部件随着业务量的提高、访问量和数据流量的快速增长,其处理能力和计算强度也相应增大,使得单一设备根本无法承担。在此情况下,如果扔...

    三丰SanFeng
  • linux负载均衡总结性说明(四层负载/七层负载)

    在常规运维工作中,经常会运用到负载均衡服务。负载均衡分为四层负载和七层负载,那么这两者之间有什么不同? 废话不多说,详解如下: 一,什么是负载均衡 1)负载均衡...

    洗尽了浮华
  • 负载均衡基础知识

     互联网早期,业务流量比较小并且业务逻辑比较简单,单台服务器便可以满足基本的需求;但随着互联网的发展,业务流量越来越大并且业务逻辑也越来越复杂,单台机器的性能问...

    哲洛不闹

扫码关注云+社区

领取腾讯云代金券