高性能网站架构方案(三) ——Varnish加速与Gearman任务分发

高性能网站架构方案(三)——Varnish加速与Gearman任务分发

原创内容,转载请注明来源,谢谢)

一、Varnish

在没有代理的情况下,对于http请求,都需要web服务器从磁盘取数据(如操作数据库),再发送给客户端。把访问过的页面缓存到内存中,下次访问直接从内存读取,能有效加快web应用的访问速度。

Varnish作为web服务器,其缓存的功能较好。varnish可以作为浏览器和apache的中间层,浏览器的请求都统一由varnishe来代理。而varnish对于浏览器又足够透明,对于浏览器而言,不会感觉到varnish的存在。

1、启用

1)修改配置文件default.vcl

         backenddefault{
         .host = “127.0.0.1”;
         .port = “80”;
         }

2)开启varnish

varnished -f /path_to_default/default.vcl-s malloc,128M -T 127.0.0.1:2000 -a:8000

开启的时候,选择配置文件、分配用于缓存的内存空间、侦听的地址和端口等。

2、修改缓存规则

开启varnish后,在没有修改缓存规则的情况下,每次的请求都会被缓存,当需要动态加载内容时则无法加载。因此,需要配置缓存规则。

1)vcl_recv函数配置

请求达到varnish时,第一个调用的函数是vcl_recv,其告诉varnish哪些请求需要先找缓存,哪些请求直接转发给服务器。

通过req.request的值,可以选择性的返回结果,如果返回的是”pass”表示直接请求服务器,如果返回的是”lookup”则表示查找缓存。

pass以后会进入vcl_pass阶段请求服务器;而lookup则可能会进入vcl_hit阶段,命中并将结果返回,也可能进入vcl_miss阶段,没有命中缓存,则重新进入vcl_pass阶段请求服务器。

2)vcl_fetch函数配置

服务器处理完数据后,返回给varnish时,会调用此函数。varnish会根据配置决定哪些内容要缓存,哪些内容不缓存。

返回的结果中,”pass”表示不需要缓存直接返回给浏览器,而”deliver”表示写入缓存。

二、Gearman

当处理用户上传的图片、文件、视频等内容时,由于比较耗时,因此可以将计算交给后台服务器进行处理。

gearman是分发任务的程序框架,包括三个部分:client部分用于创建并发起一个job请求;job server部分用于找到合适的worker,并把job交给worker;worker部分执行job。

1、gearman工作流程

gearman提供了一系列的api,让client、worker都能与job server通信。对于gearman使用者,只需要编写client和worker的应用程序,而不需要管中间怎么操作。即client可以将任务派发给gearman,worker可以接收任务并进行处理,而不需要管中间的细节。

2、业务场景

对于群发邮件等耗时较多的场景,可以用gearman进行任务分发,则客户端选择群发后,可以立即返回,而不需要讲界面阻塞着等待发送成功。

使用gearman需要先安装gearman服务器软件,再安装php的扩展,并加入php.ini即可。

gearman默认使用4730端口。

3、gearman实现邮件发送

gearman的编程在业务场景中分为两部分,一是client,即提出某项任务需求方,二是worker,即执行需求放。在发送邮件的场景中,client负责提出发送邮件的需求给gearman,worker负责执行发送邮件。

1)client

         <?php
         $client= new GearmanClient();
         $client->addServer(‘127.0.0.1’,4730);
         $message= array(
         ‘to’ => ‘mailtoyou.163.com’,
         ‘subject’ => ‘this is the title ofmail’,
         ‘message’ => ‘mail message’,
         ‘headers’ => ‘From:mymail.qq.com’
         );
         
         echo$client->doBackground(‘send’, serialize($message));

其中,doBackground的第一个参数是gearman的worker的php代码中定义的功能,即下面的代码定义的名称;第二个参数是执行的参数,必须是字符串,如果是其他内容,必须序列化后进行传输。

2)worker

<?php
$worker = newGearmanWorker();
$worker->addServer(‘127.0.0.1’,4730);
$worker->addFunction(‘send’,‘execSend’);
while($worker->work());
functionexecSend($job){
         $mail = unserialize($job->workload());
         return mail($mail[‘to’], $mail[‘subject],$mail[‘message], $mail[‘headers’]);
}

在worker中,通过while,无限循环,每当检测到有任务时,就执行。另外worker中需要定义功能,供client调用。

——written by linhxx 2017.08.17

原文发布于微信公众号 - 决胜机器学习(phpthinker)

原文发表时间:2017-08-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏乐沙弥的世界

Nginx内置状态信息(http_stub_status)

Nginx提供了一个内置的状态信息监控页面,可用于监控Nginx的整体访问情况。这个内置功能由模块ngx_http_stub_status_module实现。如...

632
来自专栏性能与架构

Nginx 限制IP并发数

前几天介绍了CC攻击及其防护方法,其中有一个方法是限制同一个IP的并发请求数量,以防止来自同一IP的大量高并发攻击 我的服务器一直没有配置这个限制,今天实验了一...

2905
来自专栏PPV课数据科学社区

【学习笔记】MySQL的常用操作命令整理

缘由:初次接触命令行操作MySQL数据库,使用还不熟练,故整理之,方便日后查阅。 备注: 用户登录MySQL后,对数据库操作的命令基本都以”;” 或 “g”结尾...

54613
来自专栏流柯技术学院

mysql数据库开启慢查询日志

第一句使用来定义慢查询日志的路径(若是linux系统,会涉及权限问题) 第二句使用来定义用时超过过多少秒的查询是慢查询,单位:秒。

922
来自专栏程序员的SOD蜜

获取SqlServer存储过程定义的3种方法

第一种: declare @p_text varchar(max) SELECT @p_text= text FROM syscomments WHERE...

2287
来自专栏晓晨的专栏

IdentityServer Topics(7)- 注销

1142
来自专栏python3

MySQL开启慢查询

编辑Mysql 配置文件(my.cnf),在[mysqld]字段添加以下几行,记录超过1秒请求的SQL语句:

471
来自专栏惨绿少年

日志切割之Logrotate

1213
来自专栏python学习指南

Elasticsearch--配置文件

config目录下有2个配置文件:es的配置文件:elasticsearch.yml日志配置文件:logging.yml,更多内容请参考:ELK教程 c...

1789
来自专栏向治洪

基于XMPP协议的Android即时通信系

设计基于开源的XMPP即时通信协议,采用C/S体系结构,通过GPRS无线网络用TCP协议连接到服务器,以架设开源的Openfn'e服务器作为即时通讯平台。  ...

18310

扫描关注云+社区