前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Python -- 多进程

Python -- 多进程

作者头像
py3study
发布2020-01-10 11:22:48
6010
发布2020-01-10 11:22:48
举报
文章被收录于专栏:python3python3

进程通信

方式一、共享内存(进程安全,效率高)

共享变量:multiprocessing.Value 共享数组:multiprocessing.Array

方式二、Manager对象:

Mananger 包括:list, dict, Namespace, Lock, RLock, Semaphore, BoundedSemaphore, Condition, Event, Queue, Value, Array Manager对象,相对于共享内存,更加灵活,支持Python对象,可以通过网络进行共享,但是效率低

进程同步

Manager对象:Lock, RLock, Semaphore, BoundedSemaphore, Condition, Event 1、简单同步机制锁 Lock、RLock(A/B 进程同时修改一个对象,RLock支持嵌套) 2、可控制进程数量 Semaphore, BoundedSemaphore (例如连接池限制) 3、复杂同步条件变量 Condition (A/B进程可以多条件判断,交替执行) 4、事件控制 Event(A、C进程等待B进程执行某种操作之后才能执行)

进程池
multiprocessing.Pool
res = pool.apply_async (非阻塞)
res = pool.apply (阻塞)
res.get(timeout=2) 获取执行return的结果

subprocess(经常用来执行Linux命令,非常方便)

cmds = [‘ls’, ‘-l’]
subprocess.call(cmds, stdout=fd, stderr=fd)
返回执行后状态码
subprocess.check_call(cmds, stdout=fd, stderr=fd)
执行成功返回0,失败抛出异常
subprocess.call_output(cmds, stderr=fd)
执行成功返回标准输出,失败抛出异常
都是阻塞执行命令,标准与错误输出到文件句柄或者PIPE

多进程注意点:

1、不能使用Lock嵌套,会导致死锁,应该使用RLock嵌套 2、多线程/进程,随时可能发生切换,操作相同变量要加锁 3、多进程普通类型共享,可以使用共享内存Value,Array,效率高

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-08-17 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 进程通信
    • 方式一、共享内存(进程安全,效率高)
      • 方式二、Manager对象:
        • 进程同步
          • 进程池
            • subprocess(经常用来执行Linux命令,非常方便)
              • 多进程注意点:
              领券
              问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档