专栏首页Linuxer的专栏从 0 到 1,Java Web 网站架构搭建的技术演进
原创

从 0 到 1,Java Web 网站架构搭建的技术演进

导语:工作也有几多年了,无论是身边遇到的还是耳间听闻的,多多少少也积攒了自己的一些经验和思考,当然,我并没有接触太多高大上的分布式架构实践,所以总结的经验相对比较零碎,欢迎大家随时补充。

俗话说得好,冰冻三尺非一日之寒,滴水穿石非一日之功,罗马也不是一天就建成的,对于开发人员来说,一个好的架构并不是一蹴而就的。

初始搭建

最开始,就是各种框架一搭,然后扔到 Tomcat 容器中跑,这时候我们的文件、数据库、应用都在一个服务器上。

服务分离

随着系统的上线,用户量也会逐步上升,很快一台服务器已经满足不了系统的负载,这时我们就要在服务器还没有超载时,提前做好准备。

由于我们是单体架构,优化架构在短时间内是不现实的,增加机器是一个不错的选择。这时,我们可能要把应用和数据库服务单独部署,如果有条件也可以把文件服务器单独部署。

反向代理

为了提升服务处理能力,我们在 Tomcat 容器前加一个代理服务器,一般使用 Nginx,当然你如果更熟悉 Apache 也未尝不可。

用户的请求发送给反向代理,然后反向代理把请求转发到后端的服务器。

从严格意义上说,Nginx 是属于 Web 服务器,一般处理静态 HTML、CSS、JS 请求;而 Tomcat 属于 Web 容器,专门处理 JSP 请求,当然 Tomcat 也是支持 Html 的,只是效果没 Nginx 好而已。

反向代理的优势,如下所示:

  • 隐藏真实后端服务。
  • 负载均衡集群。
  • 高可用集群。
  • 缓存静态内容实现动静分离。
  • 安全限流。
  • 静态文件压缩。
  • 解决多个服务跨域问题。
  • 合并静态请求(HTTP/2.0后已经被弱化)。
  • 防火墙。
  • SSL 以及 http2。

动静分离

基于以上 Nginx 反向代理,我们还可以实现动静分离,静态请求如 HTML、CSS、JS 等请求交给 Nginx 处理,动态请求分发给后端 Tomcat 处理。

Nginx 升级到 1.9.5+ 可以开启 HTTP/2.0 时代,加速网站访问。当然,如果公司不差钱,CDN 也是一个不错的选择。

服务拆分

在这分布式微服务已经普遍流行的年代,我们没必要踩过多的坑,就很容易进行拆分。

市面上已经有相对比较成熟的技术,比如阿里开源的 Dubbo(官方明确表示已经开始维护了),Spring 家族的 Spring Cloud,当然具体如何去实施,无论是技术还是业务方面都要有很好的把控。

01 Dubbo

02 SpringCloud

  • 服务发现——Netflix Eureka
  • 客服端负载均衡——Netflix Ribbon
  • 断路器——Netflix Hystrix
  • 服务网关——Netflix Zuul
  • 分布式配置——Spring Cloud Config

03 微服务与轻量级通信

  • 同步通信和异步通信
  • 远程调用 RPC
  • REST
  • 消息队列

持续集成部署

服务拆分以后,随之而来的就是持续集成部署,你可能会用到以下工具:Docker、Jenkins、Git、Maven。

基本拓扑结构如下所示:

整个持续集成平台的架构演进,如下图所示:

服务集群

Linux 集群主要分成三大类:

  • 高可用集群。
  • 负载均衡集群。
  • 科学计算集群。

我们最常见的也是生产中最常接触到的就是负载均衡集群。

01 负载均衡实现

负载均衡实现的三种方法:

  • DNS 负载均衡,一般域名注册商的 DNS 服务器不支持,但我用的阿里云解析已经支持。
  • 四层负载均衡(F5、LVS),工作在 TCP 协议下。
  • 七层负载均衡(Nginx、haproxy),工作在 HTTP 协议下。

02 分布式 Session

大家都知道,服务一般分为有状态和无状态,而分布式 Session 就是针对有状态的服务。

分布式 Session 的几种实现方式:

  • 基于数据库的 Session 共享。
  • 基于 resin/tomcat web 容器本身的 Session 复制机制。
  • 基于 oscache/Redis/memcached 进行 Session 共享。
  • 基于 cookie 进行 Session 共享。

分布式 Session 的几种管理方式:

  • Session Replication 方式管理 (即 Session 复制)。 简介:将一台机器上的 Session 数据广播复制到集群中其余机器上。 使用场景:机器较少,网络流量较小。 优点:实现简单、配置较少、当网络中有机器 Down 掉时不影响用户访问。 缺点:广播式复制到其余机器有一定延时,带来一定网络开销。
  • Session Sticky 方式管理。 简介:即粘性 Session、当用户访问集群中某台机器后,强制指定后续所有请求均落到此机器上。 使用场景:机器数适中、对稳定性要求不是非常苛刻。 优点:实现简单、配置方便、没有额外网络开销。 缺点:网络中有机器 Down 掉时,用户 Session 会丢失、容易造成单点故障。
  • 缓存集中式管理。 简介:将 Session 存入分布式缓存集群中的某台机器上,当用户访问不同节点时先从缓存中拿 Session 信息。 使用场景:集群中机器数多、网络环境复杂。 优点:可靠性好。 缺点:实现复杂,稳定性依赖于缓存的稳定性、Session 信息放入缓存时要有合理的策略写入。

目前生产中使用到的:

  • 基于 Tomcat 配置实现的 Mem Cache 缓存管理 Session 实现(麻烦)。
  • 基于 Os Cache 和 shiro 组播的方式实现(网络影响)。
  • 基于 Spring-Session+Redis 的方式实现(最适合)。

03 负载均衡策略

负载均衡策略的优劣及其实现的难易程度有两个关键因素:负载均衡算法,对网络系统状况的检测方式和能力。

rr 轮询调度算法

顾名思义,轮询分发请求。优点是实现简单,缺点是不考虑每台服务器的处理能力。

wrr 加权调度算法

我们给每个服务器设置权值 weight,负载均衡调度器根据权值调度服务器,服务器被调用的次数跟权值成正比。优点是考虑了服务器处理能力的不同。

sh 原地址散列

提取用户 IP,根据散列函数得出一个 key,再根据静态映射表,查出对应的 value,即目标服务器 IP。一单目标机器超负荷,则返回空。

dh 目标地址散列

同上,只是现在提取的是目标地址的 IP 来做哈希。优点是以上两种算法都能实现同一个用户访问同一个服务器。

lc 最少连接

优先把请求转发给连接数少的服务器。优点是使得集群中各个服务器的负载更加均匀。

wlc 加权最少连接

在 lc 的基础上,为每台服务器加上权值。算法为:(活动连接数*256+非活动连接数)÷权重 ,计算出来的值小的服务器优先被选择。优点是可以根据服务器的能力分配请求。

sed 最短期望延迟

sed 跟 wlc 类似,区别是不考虑非活动连接数。算法为:(活动连接数+1)*256÷权重,同样计算出来的值小的服务器优先被选择。

nq 永不排队

改进的 sed 算法,我们想一下什么情况下才能“永不排队”,那就是服务器的连接数为 0 的时候,那么假如有服务器连接数为 0,均衡器直接把请求转发给它,无需经过 sed 的计算。

LBLC 基于局部性的最少连接

均衡器根据请求的目的 IP 地址,找出该 IP 地址最近被使用的服务器,把请求转发之,若该服务器超载,则采用最少连接数算法。

LBLCR 带复制的基于局部性的最少连接

均衡器根据请求的目的 IP 地址,找出该 IP 地址最近使用的“服务器组”,注意,这里不是具体某个服务器,然后采用最少连接数算法,从该组中挑出具体的某台服务器出来,把请求转发之。

若该服务器超载,那么根据最少连接数算法,从在集群的非本服务器组的服务器中,找出一台服务器出来,加入本服务器组,然后把请求转发之。

读写分离

MySQL 主从配置,读写分离并引入中间件,开源的 MyCat,阿里的 DRDS 都是不错的选择。

如果是对高可用要求比较高,但是又没有相应的技术保障,建议使用阿里云的 RDS 或者 Redis 相关数据库,省事省力又省钱。

全文检索

如果有搜索业务需求,引入 solr 或者 elasticsearch 也是一个不错的选择,不要什么都塞进关系型数据库。

缓存优化

引入缓存无非是为了减轻后端数据库服务的压力,防止其"罢工"。

常见的缓存服务有:Ehcache、OsCache、MemCache、Redis,它们都是主流经得起考验的缓存技术实现,特别是 Redis 已大规模运用于分布式集群服务中,并证明了自己优越的性能。

消息队列

异步通知:比如短信验证,邮件验证这些非实时反馈性的逻辑操作。

流量削锋:应该是消息队列中的常用场景,一般在秒杀或团抢活动中使用广泛。

日志处理:系统中的日志是必不可少的,但是如何去处理高并发下的日志却是一个技术活,一不小心可能会压垮整个服务。

工作中我们常用到的开源日志 ELK,为嘛中间会加一个 Kafka 或者 Redis 就是这么一个道理(一群人涌入和排队进的区别)。

消息通讯:点对点通信(个人对个人)或发布订阅模式(聊天室)。

日志服务

消息队列中提到的 ELK 开源日志组件对于中小型创业公司是一个不错的选择。

安全优化

以上种种,没有安全做保证,一切都会归于零:

  • 阿里云的 V** 虚拟专有网络以及安全组配置。
  • 自建机房的话,要自行配置防火墙安全策略。
  • 相关服务访问,比如 MySQL、Redis、Solr 等如果没有特殊需求尽量使用内网访问并设置鉴权。
  • 尽量使用代理服务器,不要对外开放过多的端口。
  • HTTPS 配合 HTTP/2.0 也是个不错的选择。

架构师必备词汇

01 高可用

  • 负载均衡(负载均衡算法)
  • 反向代理
  • 服务隔离
  • 服务限流
  • 服务降级(自动优雅降级)
  • 失效转移
  • 超时重试(代理超时、容器超时、前端超时、中间件超时、数据库超时、NoSql超时)
  • 回滚机制(上线回滚、数据库版本回滚、事务回滚)
  • 02 高并发
  • 应用缓存
  • HTTP 缓存
  • 多级缓存
  • 分布式缓存
  • 连接池
  • 异步并发

03 分布式事务

  • 二阶段提交(强一致)
  • 三阶段提交(强一致)
  • 消息中间件(最终一致性),推荐阿里的 RocketMQ。

04 队列

  • 任务队列
  • 消息队列
  • 请求队列

05

  • 扩容
  • 单体垂直扩容
  • 单体水平扩容
  • 应用拆分
  • 数据库拆分
  • 数据库分库分表
  • 数据异构
  • 分布式任务

06 网络安全

  • SQL 注入
  • XSS 攻击
  • CSRF 攻击
  • 拒绝服务(DoS,Denial of Service)攻击

架构师必备工具

01 操作系统

Linux(必备)、某软的

02 负载均衡

DNS、F5、LVS、Nginx、OpenResty、HAproxy、负载均衡SLB

03 分布式框架

Dubbo、Motan、Spring-Could

04 数据库中间件

DRDS 、Mycat、360 Atlas、Cobar (不维护了)

05 消息队列

RabbitMQ、ZeroMQ、Redis、ActiveMQ、Kafka

06 注册中心

Zookeeper、Redis

07 缓存

Redis、Oscache、Memcache、Ehcache

08 集成部署

Docker、Jenkins、Git、Maven

09 存储

OSS、NFS、FastDFS、MogileFS

10 数据库

MySQL、Redis、MongoDB、PostgreSQL、Memcache、HBase

11 网络

专用网络 VPC、弹性公网 IP、CDN

作者:张志朋 简介:资深 Java 爱好者,深耕于在线教育领域。 来源:51CTO技术栈微信公众号 \ https://blog.52itstyle.com

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 进阶Java架构师必看的15本书

    1、大型网站技术架构:核心原理与案例分析 本书通过梳理大型网站技术发展历程,剖析大型网站技术架构模式,深入讲述大型互联网架构设计的核心原理,并通过一组典型网站技...

    Java技术栈
  • 读书单

    Java高级架构
  • 校招进大厂,分享 Tom哥的读书单

    大家好,我是Tom哥。校招进阿里,研究生,P7技术专家,出过专利,竞赛拿过奖,CSDN博客专家,负责过电商交易、社区生鲜、营销、金融等业务,多年团队管理经验,爱...

    用户7676729
  • 【腾讯云的1001种玩法】LAMP架构实现动态网站论坛系统

    LAMP架构,全称为Linux + Apache + Mariadb + PHP,是一种强大的网站解决方案。LAMP是多个开源项目的首字母缩写。LAMP网站架构...

    魏豪
  • 搭建“双11”大型网站架构必须掌握的 5 个核心知识

    每年电商双11大促对背后技术人都是一次大考,阿里数据库团队表示。经过9年的发展,双11单日交易额从2009年的0.5亿一路攀升到2017年的1682亿,秒级交易...

    美的让人心动
  • 人类高质量 Java 学习路线【一条龙版】

    大家好,我是鱼皮。现在网上的编程资料实在太多了,而且人人肯定都说自己的最好,那就导致大家又不知道怎么选了。大部分的博主推荐资源,也就是把播放量高的视频说一遍,水...

    程序员鱼皮
  • 搭建“双11”大型网站架构必须掌握的 5 个核心知识

    在这个互联网开发时代,作为一名软件工程师,我们经常会听到大型网站架构这个字眼,那到底什么是大型网站呢,这样的网站又是一种什么样的架构设计呢?

    Java技术栈
  • 搭建“双11”大型网站架构必须掌握的 5 个核心知识

    每年电商双11大促对背后技术人都是一次大考,阿里数据库团队表示。经过9年的发展,双11单日交易额从2009年的0.5亿一路攀升到2017年的1682亿,秒级交易...

    美的让人心动
  • 书单丨5本书来一场架构认知升级

    架构设计是技术人员成长和晋升过程中必须掌握的技能,但目前业界缺乏架构师学习和培养方面体系化的知识和实践的指导,本书结合作者多年在架构设计方面的学习、思考、实践,...

    博文视点Broadview
  • 理解大型分布式架构的演进历史、技术原理、最佳实践

    随着社会的发展、互联网技术的进步,以前的大型机服务端架构很显然由于高成本、难维护等原因渐渐地变得不再那么主流了,替代它的就是当下最火的互联网分布式架构。 从若...

    搜云库技术团队
  • Java架构师必看的10本书

    1、大型网站系统与JAVA中间件实践 本书围绕大型网站和支撑大型网站架构的Java中间件的实践展开介绍。 从分布式系统的知识切入,让读者对分布式系统有基本的了解...

    Java技术栈
  • 用Java从零写一个B2C商城,看完不要再说自己没有实战经验了!

    要想立足于互联网公司,且能在互联网浪潮中不被淹没,对于项目的开发实战演练是不必可少的技能,也是对自身能力的一个衡量,有多少的量对等于获得多少的回报。看似简单的一...

    用户4447430
  • 【技术创作101训练营】Web前端开发职业技术要求规划

    今天,我演讲的题目是《Web前端开发职业技术要求规划》。这个世界有很多不平凡的人,也有更多平凡的人,你是属于哪一种呢?

    达达前端
  • Web前端开发职业技术要求规划

    今天,我演讲的题目是《Web前端开发职业技术要求规划》。这个世界有很多不平凡的人,也有更多平凡的人,你是属于哪一种呢?

    达达前端
  • 大型网站架构推荐书籍

    学习是技术人员成长的基础,本次分享20本技术方面的书籍,这些书不是每一本都是经典,但是每一本都有其特点。以下20本大部分本人都看过,因此推荐给大家。 本次分享大...

    用户1220053
  • 作为一个Java架构师程序员 你应该会什么

    一,JAVA架构师 1、语法:Java 程序员必须比较熟悉语法,在写代码的时候IDE 的编辑器对 某一行报错应该能够根据报错信息 知道是什么样的语法错误并且知道...

    Java高级架构
  • Docker最全教程之使用Node.js搭建团队技术文档站(二十四)

    各种编程语言均有其优势和生态,有兴趣的朋友完全可以涉猎多门语言。在平常的工作之中,也可以尝试选择相对适合的编程语言来完成相关的工作。

    心莱科技雪雁
  • Docker最全教程之使用Node.js搭建团队技术文档站(二十三)

    各种编程语言均有其优势和生态,有兴趣的朋友完全可以涉猎多门语言。在平常的工作之中,也可以尝试选择相对适合的编程语言来完成相关的工作。

    雪雁-心莱科技
  • 为什么越来越多的开发者选择使用Spring Boot?

    使用Java做Web应用开发已经有近20年的历史了,从最初的Servlet1.0一步步演化到现在如此多的框架、库以及整个生态系统。经过这么长时间的发展,Java...

    java架构师

扫码关注云+社区

领取腾讯云代金券