前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python多进程写同一个list/dict

python多进程写同一个list/dict

作者头像
JNingWei
发布2020-04-21 10:51:18
2.3K0
发布2020-04-21 10:51:18
举报
文章被收录于专栏:JNing的专栏JNing的专栏

python2下的写法

代码语言:javascript
复制
import time
from tqdm import tqdm
import multiprocessing as mp


def picklable_op(_class, *args):
    """
    多进程之间要使用pickle来序列化并传递一些数据。
    由于py2下实例方法并不能像py3一样直接被pickle。
    所以需要对多进程对象进行封装,使之可以在py2下被pickle。
    """
    return _class.proc_func(*args)


class OP():
    def __init__(self):
        # 直接调用 Manager 提供的 list() 和 dict()
        self.manager = mp.Manager
        self.mp_lst = self.manager().list()
        self.mp_dict = self.manager().dict()
        self.length = 64

    def proc_func(self, i, j):
        self.mp_lst.append(i)
        self.mp_dict[i] = j
        time.sleep(0.1)

    def flow(self):
        pool = mp.Pool(16)
        for i in range(self.length):
            pool.apply_async(picklable_op, args=(self, i, i*2))
        pool.close()
        pool.join()


if __name__ == '__main__':

    start_time = time.time()
    op = OP()
    op.flow()
    print(op.mp_lst)
    print(op.mp_dict)
    print(time.time() - start_time)

python3下的写法

代码语言:javascript
复制
import time
from tqdm import tqdm
import multiprocessing as mp


class OP():
    def __init__(self):
        # 直接调用 Manager 提供的 list() 和 dict()
        self.manager = mp.Manager
        self.mp_lst = self.manager().list()
        self.mp_dict = self.manager().dict()
        self.length = 64

    def proc_func(self, i, j):
        self.mp_lst.append(i)
        self.mp_dict[i] = j
        time.sleep(0.1)

    def flow(self):
        pool = mp.Pool(16)
        for i in range(self.length):
            pool.apply_async(self.proc_func, args=(i, i*2))
        pool.close()
        pool.join()


if __name__ == '__main__':

    start_time = time.time()
    op = OP()
    op.flow()
    print(op.mp_lst)
    print(op.mp_dict)
    print(time.time() - start_time)

参考文献

[1] 今天遇到的Python多线程、多进程中的几个坑

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-04-18 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • python2下的写法
  • python3下的写法
    • 参考文献
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档