大众点评新开源项目-Camel(干货)

原创作者:李洋(大众点评 平台架构组成员)

作者介绍:http://leonindy.coding.me/

一、项目介绍

Camel 是大众点评开发的软负载一体解决方案,承担了F5四层硬负载后的软负载工作。Camel已成为大众点评网络流量中必不可缺的一层。

Camel对Nginx集群进行管理,通过可视化的网页,来编辑Nginx配置文件,大大简便了Nginx配置文件的开发量;并且能够同时管理多台Nginx服务器,省去登陆每台服务器再去修改配置文件的烦恼。

camel-admin与Nginx配置有关的功能主要有:站点管理,业务集群管理,Nginx集群管理。详见:http://leonindy.coding.me/camel_in_action/posts/ch3-use-guide/overall.html

Camel在大众点评的应用规模如下:

  1. nginx服务器集群: 10多个nginx集群,共过百台nginx服务器
  2. 站点及业务集群: 300多个站点域名,近千个业务服务器集群
  3. QPS: 每天响应约万次接口调用,其中有约数千次为nginx配置部署请求

Camel项目由camel-admin, Dengine(基于Tengine开发的Web服务器), camel-agent三个模块组成:

  1. camel-admin: Camel管理端:可以通过接口及页面两种方式对Nginx集群进行发布、重启、监控等操作。
  2. Dengine: 大众点评基于Tengine开发的Web服务器。在Tengine的基础上,添加了降级等功能。
  3. camel-agent: 部署在Nginx服务器上,管理本机的Nginx进程与配置文件。

二、设计初衷

大众点评最开始采用F5做七层负载。随着网站规模的增大,F5成为了网络的瓶颈,主要原因有以下两点:

  1. 负载规则涉及到很多路径的正则匹配,这要求F5做很多的正则计算。这大大增加了F5的CPU负载。
  2. F5需要对业务服务集群进行心跳检测。随着业务服务规模增大,F5需要对近千台服务器进行心跳检测。F5很难维持这个量级的心跳信息。

为此,我们决定使用软件工程的银弹-在架构上,增加新的层级。从而大众点评有两层负载,第一层为F5,做四层硬负载;第二层为Nginx集群,做七层硬负载。

三、两层负载

大众点评对网络流量采用两层负载。那么,这两层负载是如何分工的呢?

我们结合一个具体的请求来分析这个问题:

假设有一条请求,访问www.dianping.com/citylist:

  1. 首先,浏览器寻找该域名对应的公网IP。电脑接入的运营商不同,对应的公网IP就不同。如果接入电信的网络,解析该域名对应的公网IP为**.**.**.**。
  2. 由于该IP是F5的对外IP,请求发送到F5上。
  3. F5将此请求反向代理到一台Nginx服务器。
  4. 该Nginx服务器根据网址路径"/citylist"找到对应的负载规则,转发到规则中配置的业务服务器。
  5. 业务服务器响应该请求。

F5只做四层负载,不同的公网IP接受的流量,转发到不同的Nginx集群;

Nginx集群做七层负载,根据URL的路径、cookie等,转发到真正响应服务的业务服务器。

域名、IP、Nginx集群、业务集群的对应关系如下:

一个域名或一个泛域名 对应 一个公网IP

多个公网IP 对应 一个Nginx集群

一个Nginx集群 对应 多个业务

四、详细资料:

github地址:https://github.com/leonindy/camel

文档:http://leonindy.coding.me/camel_in_action/

原文发布于微信公众号 - nginx(nginx-study)

原文发表时间:2018-04-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏逢魔安全实验室

渗透基础-SSH后门分析总结

? ? 对于UNIX系统来说,ssh服务端作为最广泛应用的远程管理服务并且有一定对外开放的必然性,必然引起黑客关注,所以ssh类的后门也是uni...

84440
来自专栏Java帮帮-微信公众号-技术文章全总结

day01.互联网架构/Linux/YUM 【大数据教程】

day01.互联网架构/Linux/YUM 一、大型互联网架构演变历程 1. 淘宝技术这10年 1.1. 淘宝现状 高并发已经成为当前互联网企业面临的巨大挑...

40870
来自专栏疯狂的小程序

ASP获取微信小程序的OpenID服务器端代码

尝试一下新鲜事物“微信小程序”,其中有一个业务场景,通过微信登陆小程序,这样需要获取小程序的用户ID(也就是openid)。微信小程序从安全角度考虑,不提供直接...

88780
来自专栏Youngxj

html5 clear源码分享

39130
来自专栏北京马哥教育

linux系统被入侵后处理实战

作者 李振良 | 来源 51cto 糖豆贴心提醒,本文阅读时间8分钟,文末有秘密! ? 事件背景 操作系统:Ubuntu12.04_x64 运行业务:公司...

55350
来自专栏林德熙的博客

如何安装 btsync 优点windows 安装Centos 6 安装国内如何下载搭建预定义主机ZeroTier

本文告诉大家如何在 windows 和 Linux 安装使用 Btsync ,而且分享一些小东西给大家

48910
来自专栏FreeBuf

论如何反击用AWVS的黑客

前言 我的博客经常被师傅们用各种扫描器扫,每天都想尽办法来钓我鱼。虽然这是一种示好方式,但是久了,老是不给回礼就显得不礼貌了。所以我就稍微改造了一下博客。 这篇...

36990
来自专栏信安之路

线下赛ASP靶机漏洞利用分析

继上次发表 记一次线下赛靶机攻击过程 后,看到反响不错,特此再写一篇,关于一台 ASP 靶机漏洞利用过程。

57200
来自专栏信安之路

分析、还原一次typecho入侵事件

基友 szrzvdny 的朋友博客被入侵了,由于是虚拟空间,所以只有 apache 访问日志以供分析

18900
来自专栏知识分享

ESP8266 wifi钓鱼

https://www.cnblogs.com/xiaowuyi/p/6980072.html

1.1K30

扫码关注云+社区

领取腾讯云代金券