爱奇艺PC Web NodeJS中间层实践

爱奇艺作为中国最大的互联网视频综合门户,一直致力于给用户提供更好的使用体验及观影品质。PC主站作为爱奇艺的门户,日均覆盖用户达千万级别。随着公司业务的扩展及端上对项目更新迭代的频率越来越快,对接口的性能、响应时间、缓存策略、接口定制化等要求越来越高,需要对接的接口团队也越来越多,单纯的靠PC Web前端发送ajax请求去调用接口整合数据,会让前端的业务逻辑变得越来越复杂;同时对接团队越多也意味着会带来更多的沟通成本,不利于项目需求的快速开发迭代,而且前端调用接口属于外网调用,接口的响应时间相比内网调用会更长,导致页面渲染速度变慢,用户体验变差。

此时需要一个专门服务于PC Web的后端去把这些接口整合成一个接口给前端按需调用,以提升用户体验、优化开发效率。随着NodeJS体系的日益改进与趋于稳定,被越来越多的Web项目应用于线上,而且JavaScript也是前端同学熟悉的开发语言,因此我们决定使用NodeJS来开发主站后台接口系统也就是中间层去解决上述面临的问题。

本文将介绍Node在爱奇艺PC主站的应用实践,包括:中间层是什么;中间层的架构设计与实践;针对业务场景如何设计中间层代码架构;中间层服务如何通过监控保证稳定性、可用性;中间层带来的好处。

1.PC Web NodeJS中间层是什么?

NodeJS中间层是面向端的后台接口系统,是介于端与平台之间的薄数据层,提供内外网接口供端上或开发平台调用,主要用来实现前后端分离,对数据进行二次加工,包括拼接转换和过滤,它在业务中的角色如下图所示:

Node中间层专为PC Web提供定制化接口整合服务,各个后端业务方只需要提供原始抽象数据接口,由中间层去整合,这样前端只需要请求一次中间层接口就获取到适合展现的数据,无需浏览器端进行多次处理,具体功能如下图:

接口合并:承担从底层接口获取数据输出给页面的任务,主要包括调用、合并;

字段过滤:字段过滤、数据格式化等工作,处理展现相关逻辑与部分数据校验等;

定制化:为前端提供个性化服务,如内容压缩、RESTful风格、片段与JSON、JSONP输出、个性化数据等。

2.中间层的架构设计

中间层采取了nginx+varnish+node的架构模式,具体的架构设计如图:

由nginx做接口转发、负载,varnish做数据缓存层,node是业务处理层,在4核服务器上启动4个node进程(跟cpu核数对应),通过nginx的ip_hash做负载均衡,将请求均分给各个node进程,充分利用cpu的性能;node进程在收到请求后会通过内网调用发送http请求获取后端接口数据;varnish是一款高性能、开源的反向代理服务器和缓存服务器,我们在nginx跟node之间加了一层varnish缓存系统,通过配置在varnish缓存整条接口请求,减少相同请求的透传提高中间层服务性能。

可能有同学看到这里会有疑问:单纯的缓存接口无法缓存相同的jsonp请求,因为时间戳与callback值在变,这样即使相同参数的jsonp请求也命中不到varnish缓存。针对这种情况我们做了一层参数过滤,利用varnish的反向代理功能,重新将接口转发给varnish,达到缓存复用的目的,提高中间层服务的整体性能。

3.中间层代码架构

Node中间层采用的框架是我们基于Koa2封装的自己的qiyi-wings框架,框架本身约定了router、controller、service、model、formatter、dao等文件分层。

  • app/base/ **.js: 定义 dao model service基类 提供一些通用的基类方法
  • app/controller/ **: 用于解析用户的输入,处理后返回相应的结果。
  • app/dao/ **.js: 接口请求模块,所有的接口请求都在这里实现。
  • app/middleware/ **.js: 用于编写中间件,比如错误处理中间件,接口时长统计中间件等。
  • app/model/ **.js: 数据模型模块,用于定义通用数据模型的处理方法,返回固定类型的数据,比如视频数据,资源位数据等
  • app/formatter/ **.js: 数据模板,用于定义通用数据的解析模板,与model模块一一对应,在model中调用formatter,处理成符合需求的数据
  • app/service/ **: 主要的业务逻辑层
  • app/util/ **.js: 用于编写中间层业务共用方法
  • app/router.js: 用于配置URL路由规则
  • app/app.js: 用于引入qiyi-wings框架
  • index.js: 用于编写中间层服务启动代码

正如前面所说中间层需要整合不同业务方的各种接口,所以我们抽象除了dao层,发送http请求获取接口数据;dao请求的各个业务方的数据格式定义多种多样,但是输出数据的主体大致是类似,例如视频数据、专辑数据、明星数据等等,我们针对这些实体抽象出model层,用来定义这些实体的字段,保证输出数据的一致性;同时定义formatter层定义数据适配schema,将不同业务方的数据转换成对应model定义的字段的数据;数据格式化完毕后由service层去做model数据的拼接组合(即主要的业务逻辑层),形成最终要输出的数据,最后由controller调用service获取数据返回给调用放。

整体的调用流程如下:

4.中间层业务接口实践示例

前面已经讲述了中间层的代码架构,那么在这个架构下如何快速的开发接口供PC Web前端调用呢?我们根据一个视频接口示例一起来看一下,在这个接口中我们将要输出基础的视频信息。框架的请求数据流程如下:

根据框架的请求数据流程图,要开发这个接口我们首先需要在Router中定义路由接受用户http请求:

其次我们需要定义视频的Controller接受Router转发过来的请求,并在Controller中定义参数处理、调用视频Service、数据返回等逻辑:

再其次我们需要定义视频的Service来做具体的业务逻辑,调用Dao发送http请求后端数据,调用Model、Formatter处理数据:

在前端调用视频接口的时候,不同的团队的视频信息有不同的字段定义,导致以前的调用方式中存在很多的数据处理工具函数去兼容,对视频数据进行二次处理,导致数据的处理多种多样,同样的组件可能由于字段名问题无法复用。所以我们提供了Model的概念,用来统一输出视频信息,方便前端调用与组件复用。视频Model的实现如下:

前面说到不同的团队会输出不同的视频信息,这些视频信息长相不同但是含义大致相同,那如何把这些不同的输入整合成同样的输出呢?我们提供了Formatter的概念,用来做数据格式化。视频Formatter的实现如下:

通过以上几个模块的配合,就开发完成了一个视频基础信息接口,前端再使用视频接口的时候,只需要定义一种渲染组件,调用一次接口就可以在多个页面复用,大大提高了PC Web的开发效率。

5.中间层服务监控实现

现在中间层服务有几十台机器,日均接口请求达亿次以上,日均QPS近万,中间层的接口服务了整个爱奇艺Web主站各个页面。此时如何保证中间层服务的稳定、可靠就变的尤为重要。对此我们从以下几个方面做了保障:

• 提测上线流程规范化:中间层接口从开发到上线要经过三步,本地开发,测试机测试,预上线环境准备安装包,生成环境部署。在预上线环境保留了前3次的上线包,一旦上线后发现有问题可于一分钟内立刻回滚。所有的代码打包是在预上线完成,然后拷贝到生产环境部署,每一次打包都会生成版本号进行校验,不会出现线上环境代码不一致的问题。

• 日志分析类监控:中间层Node代码中定义了详细的日志,用于记录参数错误、数据未找到、接口错误、代码错误、接口超时等各种错误情况以及Node进程性能指标数据,通过接入公司的venus日志上报系统将日志上报到ES集群。为了更好的利用这些日志数据我们开发了中间层自己的监控系统,通过对ES集群中日志的查询分析,获取中间层服务的QPS趋势、延迟时间、错误率、接口访问排名、各机房访问占比、Node进程的内存CPU使用状况等中间层状态,将这些状态按时间生成图文报表,只需要查看这些图文报表就可以获取中间层详细的运行数据。

• 硬件系统类监控:中间层服务接入了公司的hubble监控系统(一种类似zabbix监控的系统),用于监控各服务器上的内存、CPU使用率、nginx端口号连通性、varnish端口号连通性、各个node进程端口号连通性,一旦超过报警值或者端口号不通会收到电话、短信报警,需要立刻处理,能在服务crash或者被大流量阻塞服务时第一时间收到报警,通过这种监控方式保证了中间层服务的稳定性。

• 报警系统细分:我们在监控系统中添加了接口订阅系统、提测申请系统、上线系统,通过上线系统提交接口上线申请后会自动订阅该接口,中间层每隔一小时会跟去查询的ES集群里的日志分析各个接口的错误情况,对于错误率超过1%的接口会发邮件给对应的开发人员,开发人员收到报警后去排查错误;在监控系统中还启动了2分钟间隔的定时任务,每隔两分钟查询一次这两分钟内的日志,10分钟内连续五次接口错误率超过10%的接口大概率出了较大问题需要紧急处理,通过这种细粒度级别的监控保证了服务的可用性。

• 拨测类监控:中间层接口服务是给全国各地去调用访问的,此时保证全国各地各网络的连通性就很重要,对此我们接入了云波测系统,对全国各个地区的各主要网络运营商的网络进行定时拨测监控,一旦发现连通性问题会进行短信报警,立刻联系系统网络的同事去协助处理。

通过上述流程层、业务层、系统层、网络层的监控相结合从而保证了中间层服务99.99%的稳定性与可用性。

6.中间层带来的好处

中间层的上线对PC Web前端开发带来了革命性的改变,具体好处如下:

  • 通过PC Web自己的中间层,可以按照业务定制化接口,扩大前端展现的能力和范围;
  • 中间层接口由使用接口的前端工程师开发,对展现和接口的功能更加熟悉,避免了以前的工作模式中接口方跟各方的需求对接、沟通、联调时间,这样使得项目的推进更加顺利,项目迭代会更快;
  • 中间层使用NodeJS,开发语言是JavaScript,跟现在前端工程师的工作语言一样,减少了学习成本;
  • 中间层接口的开发由前端工程师同时负责开发,既节省了人力成本,同时又提高了前端开发人员的技术能力,使得前端工程师向全栈工程师迈进。

目前后台系统主要采用Java构建,为什么我们还要使用NodeJS去开发中间层?Java跟NodeJS相比,一个是静态强类型,一个是动态弱类型;一个是面向对象编程语言,一个既支持面向对象又适合函数式编程。虽然两者都适合业务逻辑表达和数据处理,但从代码编写角度来讲NodeJS更简洁灵活、易于维护,尤其对于JSON数据处理和接口请求合并方面。Java Web体系经过长时间的发展已比较成熟,适合做大型后台系统或中间件等构建等,在这里主要用来提供原始数据,而NodeJS相比从项目启动、开发构建、部署上线都比较轻量级,同时其事件驱动跟异步回调机制能更高效处理IO相关的业务,更适合高并发、高性能的场景,尤其是网关或前台、中台项目。

7.后记

终端的开发团队是需求链中的最上游、数据链的下游,很多产品功能都受限于业务接口,中间层提供了一种可能,让我们PC Web有了自己的接口开发能力可以对接最原始数据,既减少了前端开发中的局限性,也让前端团队在开发过程中有了更多的想象力,能更好的根据业务需要快速开展项目。

本文分享自微信公众号 - 程序员成长指北(coder_growth)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-09-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券