消息队列(一) MySQL实现消息队列

消息队列(一)MySQL实现消息队列

(原创内容,转载请注明来源,谢谢)

一、概述

消息队列(MessageQueue,通常简称MQ)是一种进程间通信或同一进程的不同线程间的通信方式,是分布式应用间交换信息的一种技术。通过消息队列,应用程序可独立地执行,它们不需要知道彼此的位置、或在继续执行前不需要等待接收程序接收此消息。

消息队列有多种实现方式,可以用关系型数据库(如Mysql)、Nosql(如redis)、现有框架(如rabbitMQ)等。

Mysql处理消息队列的场景:主要是在数据处理量大、耗时久、处理流程繁杂、处理内容多、需要持久化(入库)、业务处理要求相对不实时的场景,如发邮件、发短信、订单后续处理、操作数据记录日志等。

二、场景分析

现假设有一个订单处理系统,包括用户支付产生订单、货物分配及发货两个子流程。现由于订单产生量大,故如果将产生订单、货物分配合并在一起执行,对于用户而言,将要等待较久的时间才能看到支付成功的页面,用户体验不佳。因此可以将这两个流程分开。

1)用户支付产生订单

在校验有货后,将货物表相应的内容取出到临时表,取出成功即返回用户支付成功待发货。

2)定时轮询临时表

编写脚本,定时(如10分钟)轮询此临时表,每次取若干条支付成功的数据(如1000条,具体看处理能力及数据量而定,保证处理时间在10分钟内),进行后续处理。

3)将第二步的数据进行后续处理,如通知物流取货、通知仓库出货,成功后将临时表的这几条数据清除(或将状态置成已发货)。

根据上述场景,对于有10000个用户同时购买时,也只需要校验是否有货,确认有货就可以给用户返回支付成功页面。而后台的处理即使100分钟(上述第二步假设每10分钟处理1000条),对于用户而言也只是100分钟后看到已发货的状态,相比于在支付页面多花1分钟甚至更多的时间来说,这100分钟反而并算不了什么。

因此,此场景就非常适合于用Mysql解决此消息队列。

三、程序实现

1)引入数据库处理文件DbDealer.php,此文件在PDO的文章中有详细的描述实现过程,主要是用PDO实现增删改查。

2)创建MQ工厂类MessageQueueDealer,通过传入的类型判断是哪种方式的MQ(本例使用的是Mysql,但预留了Redis等场景以便后续扩展),以及判断是哪种业务场景(对于本例而言是订单处理场景)。文件名messagequeue.php

<?php
require_once('service/assembly.php');
class MessageQueueDealer{
         private static $ins;
         private function__construct(){}
         private function__clone(){}
         public static functiongetInstance(){
                   if(null ==self::$ins || !($ins instanceof MessageQueueDealer)){
                            self::$ins= new MessageQueueDealer();
                   }
                   returnself::$ins;
         }
         //mq处理函数type=mysql,redis,..(mq类型)
         public functionmqDealer($type, $condition){
                   switch($type){
                            case'mysql':
                                     $this->mysqlMq($condition);
                                     break;
                            default:
                                     break;
                   }
         }
         //mysql的mqcondition=order,...(业务场景)
         private functionmysqlMq($condition){
                   switch($condition){
                            case'order':
                                     $order= new Order();
                                     $orderInfo= $order->transOrder();
                   }
         }
}       
$mq = MessageQueueDealer::getInstance()->mqDealer('mysql','order');

3)引入服务中间文件,其用于引用各个处理类,本例引入订单处理类。文件名assembly.php

         <?php
require_once('order.php');

4)订单处理类Order,用于定时接处理任务。文件名order.php

         <?php
require_once('dbDealer.php');
//订单处理类,将支付成功的订单移入另一个表,并且从本表删除
class Order{
         publicfunction transOrder(){
                   $db= DbDealer::getInstance()->getConnection();
                   $res= $db->setLimit(2)->setOrderBy(array('asc', 'id'))
                                       ->setSelectColumn(' id,name ')->get_mytable_by_status(3);//每次处理两条,把status=3的记录挪走
                   $arrOrder= $res->fetchAll(PDO::FETCH_ASSOC);//内容全部取出成关联数组
                   //两个步骤一起,插入新表以及移除旧表
                   if(!empty($arrOrder)){
                            $maxId= 0;
                            foreach($arrOrderas $order){
                                     $maxId= $maxId < $order['id'] ? $order['id'] : $maxId;
                            }
                            $db->startTrans();
                            $db->insertBatch('mynewtable',$arrOrder);
                            $db->delete('mytable',array('id' => '<'.$maxId));
                            $db->commitTrans();
                   }                
         }
}

5)编写crontab脚本,让其定时执行messagequeue,以完成订单转移。

在linux界面输入crontab –e,进入vim的编辑界面,输入:

*/10 * * * * php/usr/share/nginx/html/message_queue/messagequeue.php

四、总结

Mysql实现消息队列的方式较为简单,其在处理非实时的数据时具有较好优势,因为其存取方便,而非实时情况下也不会有大量的数据库连接,防止正常业务因为大量的连接而让数据库服务器奔溃。

——written by linhxx 2017.07.26

原文发布于微信公众号 - 决胜机器学习(phpthinker)

原文发表时间:2017-07-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏IT笔记

JavaWeb项目架构之Elasticsearch日志处理系统

Elasticsearch (ES)是一个基于 Lucene 的开源搜索引擎,它不但稳定、可靠、快速,而且也具有良好的水平扩展能力,是专门为分布式环境设计的。 ...

3827
来自专栏猛牛哥的博客

debian使用LVM扩展第二块硬盘

1494
来自专栏Netkiller

PHP高级编程之守护进程

PHP高级编程之守护进程 http://netkiller.github.io/journal/php.daemon.html 摘要 2014-09-01 发表...

3367
来自专栏北京马哥教育

Linux磁盘监控工具说明

1123
来自专栏WeTest质量开放平台团队的专栏

Android外部存储

外部存储作为开发中经常接触的一个重要系统组成,在Android历代版本中,有过许许多多重要的变更。我也曾疑惑过,为什么一个简简单单外部存储,会存在存在这么多奇奇...

5586
来自专栏张善友的专栏

每周.NET前沿技术文章摘要(2017-06-21)

汇总国外.NET社区相关文章,覆盖.NET ,ASP.NET等内容: .NET .NET Core Magic: Develop on one OS, run ...

1757
来自专栏Janti

记一次内存溢出的分析经历——thrift带给我的痛orz

说在前面的话 朋友,你经历过部署好的服务突然内存溢出吗? 你经历过没有看过Java虚拟机,来解决内存溢出的痛苦吗? 你经历过一个BUG,百思不得其解,头发一根一...

3288
来自专栏魏琼东

应用SAAS结构技术的开源药店管理系统-源代码结构说明

一、药店系统内容说明 在前些时间,我们发布了一个基于AgileEAS.NET平台的SAAS结构的案例-AgileEAS.NET平台开发实例-药店系统-快速的SA...

2069
来自专栏Hadoop实操

如何使用Lily HBase Indexer对HBase中的数据在Solr中建立索引

1483
来自专栏编程

朱辉:Linux Kernel iowait 时间的代码原理

之前在我热爱的公众号Linuxer看到The precise meaning of I/O wait time in Linux这篇文章,感觉写的不错,就是没有...

2169

扫描关注云+社区