python的生产者消费者模型,看这篇就够了

首先先来解释下,什么是「生产者消费者模型」生产者消费者问题(Producer-consumer problem),也称有限缓冲问题(Bounded-buffer problem),是一个多线程同步问题的经典案例。该问题描述了共享固定大小缓冲区的两个线程——即所谓的“生产者”和“消费者”——在实际运行时会发生的问题。生产者的主要作用是生成一定量的数据放到缓冲区中,然后重复此过程。与此同时,消费者也在缓冲区消耗这些数据。该问题的关键就是要保证生产者不会在缓冲区满时加入数据,消费者也不会在缓冲区中空时消耗数据。以上是wiki百科对于模型的解释,用我的话总结一下就是:一个愿打,一个愿挨

从上图中可以看到生产者消费者之间用中间类似一个队列一样的东西串起来。这个队列可以想像成一个存放产品的“仓库”,生产者只需要关心这个“仓库”,并不需要关心具体的消费者,对于生产者而言甚至都不知道有这些消费者存在。对于消费者而言他也不需要关心具体的生产者,到底有多少生产者也不是他关心的事情,他只要关心这个“仓库”中还有没有东西。这种模型是一种松耦合模型

那么接下来就用代码来演示一下

class Consumer(threading.Thread):
   def __init__(self, queue):
       # 从python3 开始,继承有了极大的改善
       super().__init__()
       # 我喜欢用单下划线去标识私有变量
       self._queue = queue

   # 继承了Thread类后,需要重写run方法来自定义事件
   def run(self):
       while True:
           # msg即是我们说的消息,也是仓库中的货物
           msg = self._queue.get()
           # 我会在生产者中加入quit关键字,保证程序能够自动退出
           if isinstance(msg, str) and msg == 'quit':
               break
           print(f"I'm a thread, and I received {msg}!!")
       print('Bye byes!')


def producer():
   # 生产者生产一个新的队列,用于存放消息
   queue = Queue.Queue()
   # 初始化一个消费者实例
   worker = Consumer(queue)
   # 开启消费者线程
   worker.start()  
   start_time = time.time()
   # 退出条件
   while time.time() - start_time < 5:
       queue.put('something at %s' % time.time())
       time.sleep(1)
   queue.put('quit')
   worker.join()


if __name__ == '__main__':
   producer()

那么如果在爬虫的时候,我们就可以把仓库中的货物想像成是一个个的url,生产者产生url链接,消费者获取url连接并从中得到数据,在队列的帮助下可以使用多线程加快爬虫速度。

import time, threading, Queue
import requests

class Consumer(threading.Thread):
    def __init__(self, queue):
        super().__init__()
        self._queue = queue

    def run(self):
        while True:
            _content = self._queue.get()
            print(_content)
            if isinstance(_content, str) and _content == 'quit':
                break
            _res = requests.get(content)
        print('Bye byes!')

def Producer():
    _urls = ['url1', 'url2', 'url3', 'url4']
    _q = Queue.Queue()
    # 一次打开4个队列
    _workers = build_worker_pool(_q, 4)
    _start_time = time.time()
    for _url in _urls:
        _q.put(_url)
    for _w in _workers:
        _q.put('quit')
    for _w in _workers:
        # join的作用就是为了保证所有的子线程都结束了,再结束父线程
        _w.join()
    _t = time.time() - start_time
    print(f"Done! Time taken: {_t}")

def build_worker_pool(queue, size):
    _workers = []
    for _ in range(size):
        _worker = Consumer(queue)
        _worker.start()
        _workers.append(_worker)
    return workers

if __name__ == '__main__':
    Producer()

好啦~今天的内容就到这里差不多咯~

如果你对今天的内容还感兴趣的话,何不点个赞再走呢?如果感兴趣到想赞赏我,就不要犹豫啦~


原文发布于微信公众号 - 猿媛牧场(xpchuiit)

原文发表时间:2018-06-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Fundebug

RabbitMQ入门教程

1175
来自专栏Linuxer的专栏

张亦鸣 : eBPF 简史 (下篇)

数日之前,笔者参加某一技术会议之时,为人所安利了一款开源项目,演讲者对其性能颇为称道,称其乃基于近年在内核中炙手可热的 eBPF 技术。

5950
来自专栏令仔很忙

手把手教你---进程资源分配

Markdown编辑器用的还不是太熟,表格中插入图片这事还没学会,纠结着在Word中总结了下,然后截个图放在下面供大家参考:

781
来自专栏惨绿少年

Linux分区规划与xshell使用排错

1.1 没有重要数据 /boot   200M    存放系统的引导信息 内核 swap   交换分区 防止内存用光了 临时的一个内存 如果...

2170
来自专栏IMWeb前端团队

Nodejs进阶:核心模块net入门与实例讲解

模块概览 net模块是同样是nodejs的核心模块。在http模块概览里提到,http.Server继承了net.Server,此外,http客户端与http服...

2266
来自专栏IT笔记

Docker学习之搭建ActiveMQ消息服务

ActiveMQ 是Apache出品,最流行的,能力强劲的开源消息总线。ActiveMQ 是一个完全支持JMS1.1和J2EE 1.4规范的 JMS Provi...

852
来自专栏Java学习123

Nginx+Keepalived实现站点高可用

3008
来自专栏Linyb极客之路

网络编程之HTTP协议整理分析

维基百科上解释为:超文本传输协议(英文:HyperText Transfer Protocol,缩写:HTTP)是一种用于分布式、协作式和超媒体信息系统的应用层...

1277
来自专栏一名合格java开发的自我修养

(理论篇)从基础文件IO说起虚拟内存,内存文件映射,零拷贝

  为了快速构建项目,使用高性能框架是我的职责,但若不去深究底层的细节会让我失去对技术的热爱。   探究的过程是痛苦并激动的,痛苦在于完全理解甚至要十天半月甚至...

923
来自专栏北京马哥教育

又见KeepAlive

最近工作中遇到一个问题,想把它记录下来,场景是这样的: ? 从上图可以看出,用户通过Client访问的是LVS的VIP, VIP后端挂载的RealServer是...

4186

扫码关注云+社区