高性能网站架构方案(三) ——Varnish加速与Gearman任务分发

高性能网站架构方案(三)——Varnish加速与Gearman任务分发

原创内容,转载请注明来源,谢谢)

一、Varnish

在没有代理的情况下,对于http请求,都需要web服务器从磁盘取数据(如操作数据库),再发送给客户端。把访问过的页面缓存到内存中,下次访问直接从内存读取,能有效加快web应用的访问速度。

Varnish作为web服务器,其缓存的功能较好。varnish可以作为浏览器和apache的中间层,浏览器的请求都统一由varnishe来代理。而varnish对于浏览器又足够透明,对于浏览器而言,不会感觉到varnish的存在。

1、启用

1)修改配置文件default.vcl

         backenddefault{
         .host = “127.0.0.1”;
         .port = “80”;
         }

2)开启varnish

varnished -f /path_to_default/default.vcl-s malloc,128M -T 127.0.0.1:2000 -a:8000

开启的时候,选择配置文件、分配用于缓存的内存空间、侦听的地址和端口等。

2、修改缓存规则

开启varnish后,在没有修改缓存规则的情况下,每次的请求都会被缓存,当需要动态加载内容时则无法加载。因此,需要配置缓存规则。

1)vcl_recv函数配置

请求达到varnish时,第一个调用的函数是vcl_recv,其告诉varnish哪些请求需要先找缓存,哪些请求直接转发给服务器。

通过req.request的值,可以选择性的返回结果,如果返回的是”pass”表示直接请求服务器,如果返回的是”lookup”则表示查找缓存。

pass以后会进入vcl_pass阶段请求服务器;而lookup则可能会进入vcl_hit阶段,命中并将结果返回,也可能进入vcl_miss阶段,没有命中缓存,则重新进入vcl_pass阶段请求服务器。

2)vcl_fetch函数配置

服务器处理完数据后,返回给varnish时,会调用此函数。varnish会根据配置决定哪些内容要缓存,哪些内容不缓存。

返回的结果中,”pass”表示不需要缓存直接返回给浏览器,而”deliver”表示写入缓存。

二、Gearman

当处理用户上传的图片、文件、视频等内容时,由于比较耗时,因此可以将计算交给后台服务器进行处理。

gearman是分发任务的程序框架,包括三个部分:client部分用于创建并发起一个job请求;job server部分用于找到合适的worker,并把job交给worker;worker部分执行job。

1、gearman工作流程

gearman提供了一系列的api,让client、worker都能与job server通信。对于gearman使用者,只需要编写client和worker的应用程序,而不需要管中间怎么操作。即client可以将任务派发给gearman,worker可以接收任务并进行处理,而不需要管中间的细节。

2、业务场景

对于群发邮件等耗时较多的场景,可以用gearman进行任务分发,则客户端选择群发后,可以立即返回,而不需要讲界面阻塞着等待发送成功。

使用gearman需要先安装gearman服务器软件,再安装php的扩展,并加入php.ini即可。

gearman默认使用4730端口。

3、gearman实现邮件发送

gearman的编程在业务场景中分为两部分,一是client,即提出某项任务需求方,二是worker,即执行需求放。在发送邮件的场景中,client负责提出发送邮件的需求给gearman,worker负责执行发送邮件。

1)client

         <?php
         $client= new GearmanClient();
         $client->addServer(‘127.0.0.1’,4730);
         $message= array(
         ‘to’ => ‘mailtoyou.163.com’,
         ‘subject’ => ‘this is the title ofmail’,
         ‘message’ => ‘mail message’,
         ‘headers’ => ‘From:mymail.qq.com’
         );
         
         echo$client->doBackground(‘send’, serialize($message));

其中,doBackground的第一个参数是gearman的worker的php代码中定义的功能,即下面的代码定义的名称;第二个参数是执行的参数,必须是字符串,如果是其他内容,必须序列化后进行传输。

2)worker

<?php
$worker = newGearmanWorker();
$worker->addServer(‘127.0.0.1’,4730);
$worker->addFunction(‘send’,‘execSend’);
while($worker->work());
functionexecSend($job){
         $mail = unserialize($job->workload());
         return mail($mail[‘to’], $mail[‘subject],$mail[‘message], $mail[‘headers’]);
}

在worker中,通过while,无限循环,每当检测到有任务时,就执行。另外worker中需要定义功能,供client调用。

——written by linhxx 2017.08.17

原文发布于微信公众号 - 决胜机器学习(phpthinker)

原文发表时间:2017-08-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Spark学习技巧

聊聊spark-submit的几个有用选项

1073
来自专栏编程语言

Python:VScode 设置Python不同版本运行环境

1.首先本地安装有不同的Python的版本,比如2.7和3.5.mac下一般默认自带2.7版本。  终端输入侧  python -V 则显示默认版本号。而p...

1052
来自专栏魏艾斯博客www.vpsss.net

非正常关闭 vi 编辑器产生 swp 文件怎么删除

1046
来自专栏吴柯的运维笔记

Nginx服务器常见问题如何优化?

Nginx常见问题处理 -要求- 对Nginx服务器进行适当优化,以提升服务器的处理性能: 1.不显示Nginx软件版本号 2.如果客户端访问服务器提示“T...

3626
来自专栏吴伟祥

Nginx认识与实践(一) 转

笔者按照文章:《Nginx服务器开箱体验》 中的实验,给出了一份简要的清单配置举例:

873
来自专栏技术点滴

最简git Server配置

最简git Server配置 如何保持多台计算机的项目代码的同步更新呢?通过在一个公用计算机上开启git服务,任何能与该计算机互联的终端都可以同步最新的项目代码...

25210
来自专栏Linux驱动

第4阶段——制作根文件系统 (4)

在上节制作busybox后(位于/work/nfs_root/mini_fs), 然后根据以下5个来构建最小根文件系统: (1)/dev/console(终端控...

21410
来自专栏IT技术精选文摘

架构师详解:Nginx 架构

1244
来自专栏决胜机器学习

《Redis设计与实现》读书笔记(二十一) ——Redis服务器定时函数serverCron详解

《Redis设计与实现》读书笔记(二十一) ——Redis服务器定时函数serverCron详解 (原创内容,转载请注明来源,谢谢) 一、概述 redis...

3274
来自专栏jmeter高手高高手

Jmeter(二十六)_数据驱动测试

花了一点时间做了一个通用的执行引擎,好处就是我不用再关注测试脚本的内容,而是用测试用例的数据去驱动我们执行的方向。(这个只适合单个接口的测试,具体运用到接口自动...

2112

扫码关注云+社区