专栏首页python3python3异步编程-实例

python3异步编程-实例

Python3 异步编程实例篇

本篇主要内容:

  • 启动一个线程
  • 启动多线程
  • 获取线程名字
  • 让线程按顺序执行
  • 给线程加上日志
  • 线程类的实现
  • 线程锁
  • 多线程使用全局变量下锁的重要性
  • 锁嵌套的问题
  • 使用队列来存储线程数据
  • 取得线程中的线果
  • 多线程与非多线程性能对比
  • 多线程与非多线程I/O操作
  • 线程池的使用

一、用threading启动一个线程

示例代码:

#!/usr/bin/python3

import time
from threading import Thread

def countdown(n):
    while n > 0:
        print('倒数开始:', n)
        n -= 1
        time.sleep(1)

def main():
    t = Thread(target=countdown, args=(5, ))   # target=函数名,args=() 给target=的函数传参数,参数以元组形式传,如果只有一个,要加逗号
    t.start()                                  # 启动线程

if __name__ == '__main__':
    main()

输出: 倒数开始: 5 倒数开始: 4 倒数开始: 3 倒数开始: 2 倒数开始: 1

二、启动多个线程

示例代码:

#!/usr/bin/python3

import time
from threading import Thread

def countdown(n, number):
    while n > 0:
        print(f'第{number}个线程,倒数开始:', n)
        n -= 1
        time.sleep(1)

def main():
    for i in range(3):
        t = Thread(target=countdown, args=(5, i+1))
        t.start()

if __name__ == '__main__':
    main()

输出: 第1个线程,倒数开始: 5 第2个线程,倒数开始: 5 第3个线程,倒数开始: 5 第3个线程,倒数开始: 4 第2个线程,倒数开始: 4 第1个线程,倒数开始: 4 第3个线程,倒数开始: 3 第2个线程,倒数开始: 3 第1个线程,倒数开始: 3 第1个线程,倒数开始: 2 第2个线程,倒数开始: 2 第3个线程,倒数开始: 2 第1个线程,倒数开始: 1 第2个线程,倒数开始: 1 第3个线程,倒数开始: 1

三、获取线程名字

示例代码:

#!/usr/bin/python3
import time
import threading
from threading import Thread

def countdown(n, number):
    while n > 0:
        print(f'第{number}个线程,倒数开始:', threading.current_thread().name, n)
        n -= 1
        time.sleep(1)

def main():
    for i in range(3):
        t = Thread(target=countdown, args=(5, i+1))
        t.start()

if __name__ == '__main__':
    main()

输出: 第1个线程,倒数开始: Thread-1 5 第2个线程,倒数开始: Thread-2 5 第3个线程,倒数开始: Thread-3 5 第1个线程,倒数开始: Thread-1 4 第2个线程,倒数开始: Thread-2 4 第3个线程,倒数开始: Thread-3 4 第1个线程,倒数开始: Thread-1 3 第2个线程,倒数开始: Thread-2 3 第3个线程,倒数开始: Thread-3 3 第3个线程,倒数开始: Thread-3 2 第2个线程,倒数开始: Thread-2 2 第1个线程,倒数开始: Thread-1 2 第3个线程,倒数开始: Thread-3 1 第2个线程,倒数开始: Thread-2 1 第1个线程,倒数开始: Thread-1 1

四、让线程按顺序执行

示例代码:

#!/usr/bin/python3
# 当前线程结束后再执行下一个
import time
import threading
from threading import Thread

def countdown(n, number):
    while n > 0:
        print(f'第{number}个线程,倒数开始:', threading.current_thread().name, n)
        n -= 1
        time.sleep(1)

def main():
    for i in range(3):
        t = Thread(target=countdown, args=(3, i+1))
        t.start()
        t.join()    # waite until the thread terminates 前面线程结束之后再执行下一个

if __name__ == '__main__':
    main()

输出: 第1个线程,倒数开始: Thread-13 3 第1个线程,倒数开始: Thread-13 2 第1个线程,倒数开始: Thread-13 1 第2个线程,倒数开始: Thread-14 3 第2个线程,倒数开始: Thread-14 2 第2个线程,倒数开始: Thread-14 1 第3个线程,倒数开始: Thread-15 3 第3个线程,倒数开始: Thread-15 2 第3个线程,倒数开始: Thread-15 1

五、给线程加上日志

示例代码:

#!/usr/bin/python3
import time
import logging
import threading
from threading import Thread

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)   # format 中的 threadName 可以捕获到线程的名字,所以下边logging.debug()中不需要传入线程名

def countdown(n, number):
    while n > 0:
        # print(f'{threading.current_thread().name}-倒数开始:', n)
        logging.debug(f'倒数开始:{n}')
        n -= 1
        time.sleep(1)

def main():
    thread_list = []
    logging.debug('start.....')
    for i in range(3):
        t = Thread(target=countdown, args=(3, i+1))
        t.start()
        thread_list.append(t)  # 把线程放到列表中

    for i in thread_list:   # 终止列表中的线程
        i.join()
    logging.debug('end.....')
if __name__ == '__main__':
    main()

输出: MainThread: start..... Thread-1 : 倒数开始:3 Thread-2 : 倒数开始:3 Thread-3 : 倒数开始:3 Thread-1 : 倒数开始:2 Thread-3 : 倒数开始:2 Thread-2 : 倒数开始:2 Thread-2 : 倒数开始:1 Thread-3 : 倒数开始:1 Thread-1 : 倒数开始:1 MainThread: end.....

六、线程类的实现

示例代码:

#!/usr/bin/python3
# 继承 Thread类,定义一个新类,初始化对象
import time
import logging
import threading
from threading import Thread

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)   # format 中的 threadName 可以捕获到线程的名字,所以下边logging.debug()中不需要传入线程名

def countdown(n):
    while n > 0:
        # print(f'{threading.current_thread().name}-倒数开始:', n)
        logging.debug(f'倒数开始:{n}')
        n -= 1
        time.sleep(1)

class MyThread(Thread):
    def __init__(self, name, count):
        Thread.__init__(self)
        self.name = name
        self.count = count

    def run(self):
        countdown(self.count)

def main():
    thread_list = []
    logging.debug('start.....')
    for i in range(3):
        t = MyThread(f'thread-{i+1}', 3)
        t.start()
        thread_list.append(t)  # 把线程放到列表中
    for i in thread_list:   # 终止列表中的线程
        i.join()
    logging.debug('end.....')
if __name__ == '__main__':
    main()

输出: MainThread: start..... thread-1 : 倒数开始:3 thread-2 : 倒数开始:3 thread-3 : 倒数开始:3 thread-3 : 倒数开始:2 thread-1 : 倒数开始:2 thread-2 : 倒数开始:2 thread-3 : 倒数开始:1 thread-2 : 倒数开始:1 thread-1 : 倒数开始:1 MainThread: end.....

七、线程锁

示例代码:

 #!/usr/bin/python3
 # 给线程加锁

import time
import logging
import threading
from threading import Thread

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)   # format 中的 threadName 可以捕获到线程的名字,所以下边logging.debug()中不需要传入线程名

def countdown(n):
    while n > 0:
        logging.debug(f'倒数开始:{n}')
        n -= 1
        time.sleep(1)

class MyThread(Thread):
    def __init__(self, name, count):
        Thread.__init__(self)
        self.name = name
        self.count = count

    def run(self):
        try:
            lock.acquire()     # 获取锁
            logging.debug('lock....')
            countdown(self.count)
        finally:
            lock.release()
            logging.debug('open again')

lock = threading.Lock()   # 新建一个锁

def main():
    thread_list = []
    logging.debug('start.....')
    for i in range(3):
        t = MyThread(f'thread-{i+1}', 3)
        t.start()
        thread_list.append(t)  # 把线程放到列表中

    for i in thread_list:   # 终止列表中的线程
        i.join()
    logging.debug('end.....')
if __name__ == '__main__':
    main()

输出: MainThread: start..... thread-1 : lock.... thread-1 : 倒数开始:3 thread-1 : 倒数开始:2 thread-1 : 倒数开始:1 thread-1 : open again thread-2 : lock.... thread-2 : 倒数开始:3 thread-2 : 倒数开始:2 thread-2 : 倒数开始:1 thread-2 : open again thread-3 : lock.... thread-3 : 倒数开始:3 thread-3 : 倒数开始:2 thread-3 : 倒数开始:1 thread-3 : open again MainThread: end.....

八、多线程使用全局变量下锁的重要性

示例代码:

#!/usr/bin/python3
# 防止多个线程同时操作同一个变量
# 锁,多线程修改全局变量
# 执行时,后边加线程个数;例如python xxx.py 5
import time
import logging
import threading
import random
import sys
from threading import Thread

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)   # format 中的 threadName 可以捕获到线程的名字,所以下边logging.debug()中不需要传入线程名

def countdown(n):
    while n > 0:
        # print(f'{threading.current_thread().name}-倒数开始:', n)
        logging.debug(f'倒数开始:{n}')
        n -= 1
        time.sleep(1)

class MyThread(Thread):
    def __init__(self, name, count):
        Thread.__init__(self)
        self.name = name
        self.count = count

    def run(self):
        try:
            lock.acquire()     # 获取锁
            logging.debug('lock....')
            countdown(self.count)
        finally:
            lock.release()
            logging.debug('open again')

lock = threading.Lock()   # 新建一个锁
TOTAL = 0

def add_plus():
    global TOTAL
    with lock:        # 锁的新用法,用完之后可以自动关闭
        logging.debug(f'before add:{TOTAL}')
        wait = random.randint(1, 3)
        time.sleep(wait)
        print(f'执行了{wait}s之后。。。')
        TOTAL += 1
        logging.debug(f'after add:{TOTAL}')

def main():
    thread_list = []
    logging.debug('start.....')
    for i in range(int(sys.argv[1])):
        t = Thread(target=add_plus)
        t.start()
        thread_list.append(t)  # 把线程放到列表中

    for i in thread_list:   # 终止列表中的线程
        i.join()
    logging.debug('end.....')
if __name__ == '__main__':
    main()

输出: MainThread: start..... Thread-1 : before add:0 执行了3s之后。。。 Thread-1 : after add:1 Thread-2 : before add:1 执行了2s之后。。。 Thread-2 : after add:2 Thread-3 : before add:2 执行了1s之后。。。 Thread-3 : after add:3 Thread-4 : before add:3 执行了2s之后。。。 Thread-4 : after add:4 Thread-5 : before add:4 执行了3s之后。。。 Thread-5 : after add:5 MainThread: end.....

九、锁嵌套的问题

常规情况下出现锁嵌套,程序会卡住 这里用RLock 示例代码:

#!/usr/bin/python3
# 出现锁嵌套时,要用threading.RLock建立锁,否则程序会出问题
import time
import logging
import threading
import random
import sys
from threading import Thread

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)   # format 中的 threadName 可以捕获到线程的名字,所以下边logging.debug()中不需要传入线程名

def countdown(n):
    while n > 0:
        logging.debug(f'倒数开始:{n}')
        n -= 1
        time.sleep(1)

class MyThread(Thread):
    def __init__(self, name, count):
        Thread.__init__(self)
        self.name = name
        self.count = count

    def run(self):
        try:
            lock.acquire()     # 获取锁
            logging.debug('lock....')
            countdown(self.count)
        finally:
            lock.release()
            logging.debug('open again')

# lock = threading.Lock()   # 新建一个锁
lock = threading.RLock()   # 可以用于锁嵌套
TOTAL = 0

def add_plus_3():
    global TOTAL
    with lock:
        TOTAL += 3

def add_plus():
    global TOTAL
    with lock:        # 锁的新用法,用完之后可以自动关闭
        logging.debug(f'before add:{TOTAL}')
        wait = random.randint(1, 3)
        time.sleep(wait)
        print(f'执行了{wait}s之后。。。')
        TOTAL += 1
        logging.debug(f'after add:{TOTAL}')
        add_plus_3()

def main():
    thread_list = []
    logging.debug('start.....')
    for i in range(int(sys.argv[1])):
        t = Thread(target=add_plus)
        t.start()
        thread_list.append(t)  # 把线程放到列表中
    for i in thread_list:   # 终止列表中的线程
        i.join()
    logging.debug('end.....')
if __name__ == '__main__':
    main()

输出: MainThread: start..... Thread-1 : before add:0 执行了3s之后。。。 Thread-1 : after add:1 Thread-2 : before add:4 执行了3s之后。。。 Thread-2 : after add:5 Thread-3 : before add:8 执行了3s之后。。。 Thread-3 : after add:9 Thread-4 : before add:12 执行了2s之后。。。 Thread-4 : after add:13 Thread-5 : before add:16 执行了3s之后。。。 Thread-5 : after add:17 MainThread: end.....

十、使用队列来存储线程数据

队列queue,先时先出的读写规则 示例代码:

#!/usr/bin/python3
from queue import Queue
q = Queue()
q.put(1)
q.put(2)
q.put(3)
q.get(block=False)  # 加上block=False防止取完所有之后卡住
q.get(block=False)
q.get(block=False)

输出: 1 2 3

十一、取得线程中的线果

示例代码:

# 取得线程中的结果
from queue import Queue    # 用队列来保存线程的结果,先进先出
from threading import Thread

q_result = Queue()  # 新建一个队列对象
str_list = ['1', '3', '6', '8']

def str_to_int(arg, queue):
    result = int(arg)         # 将列表中的字符串转换成数字
    queue.put({arg: result})

def main():
    thread_list = []
    for s in str_list:
        t = Thread(target=str_to_int, args=(s, q_result))
        t.start()
        thread_list.append(t)

    for i in thread_list:
        i.join()

    return [q_result.get() for _ in range(len(str_list))]    # 列表生成式,等同于上边的for循环

if __name__ == '__main__':
    print(main())   # 打印main()中的return 内容

输出: [{'1': 1}, {'3': 3}, {'6': 6}, {'8': 8}]

十二、多线程与非多线程性能对比

测试多线程与非多线程性能 示例代码:

#!/usr/bin/python3
# 多线程与非多线程时间对比
# 测试多线程是否适合I/O密集型,用时间加减来检测多线程与非多线程
import time
from queue import Queue    # 用队列来保存线程的结果,先进先出
from threading import Thread

q_result = Queue()  # 新建一个队列对象
str_list = ['1', '3', '6', '8']

def str_to_int(arg, queue):
    result = int(arg)
    queue.put({arg: result})

def with_thread():
    thread_list = []
    start_time = time.time()
    for s in str_list:
        t = Thread(target=str_to_int, args=(s, q_result))
        t.start()
        thread_list.append(t)

    for i in thread_list:
        i.join()
    print('with thread:', (time.time() - start_time) * 1000)   # 显示毫秒
    return [q_result.get() for _ in range(len(str_list))]

def no_thread():
    start_time = time.time()
    q = Queue()
    for s in str_list:
        str_to_int(s, q)

    print('no thread:', (time.time() - start_time) * 1000)   #  显示毫秒
    return [q.get() for _ in range(len(str_list))]

def main():
    no_thread()
    with_thread()

if __name__ == '__main__':
    main() 

输出: no thread: 0.0 with thread: 1.996755599975586

十三、多线程与非多线程I/O操作

对比I/O操作时,多线程与非多线程的性能 示例代码:

# 用I/O操作来检测多线程与非多线程处理任务所花的时间
# 测试多线程是否适合I/O密集型,用时间加减来检测多线程与非多线程
#!/usr/bin/python3
import time
from queue import Queue    # 用队列来保存线程的结果,先进先出
from threading import Thread
import requests

q_result = Queue()  # 新建一个队列对象
urls = [
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
]

def get_page(url, queue):
    result = requests.get(url).content   # 获取页面内容
    queue.put(result[:10])   # 保存前10个字符
    with open('utl.txt', 'ab') as f:
        f.write(result[:100])

def with_thread():
    thread_list = []
    start_time = time.time()
    for s in urls:
        t = Thread(target=get_page, args=(s, q_result))
        t.start()
        thread_list.append(t)

    for i in thread_list:
        i.join()
    print('with thread:', (time.time() - start_time) * 1000)   # 显示毫秒
    return [q_result.get() for _ in range(len(urls))]

def no_thread():
    start_time = time.time()
    q = Queue()
    for s in urls:
        get_page(s, q)

    print('no thread:', (time.time() - start_time) * 1000)   # 显示毫秒
    return [q.get() for _ in range(len(urls))]

def main():
    print(no_thread())  # 打印return的内容
    print(with_thread())

if __name__ == '__main__':
    main()

输出: no thread: 1418.3428287506104 [b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype '] with thread: 346.4798927307129 [b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!Doctype ', b'<!Doctype ']PS D:\python\project>

十四、线程池的使用

示例代码:

#!/usr/bin/python3
from concurrent.futures import ThreadPoolExecutor, as_completed
import logging
import requests

urls = [
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
    "http://www.baidu.com",
    "http://www.qq.com",
    "http://www.360.com",
]

logging.basicConfig(
    level=logging.DEBUG,
    format='%(threadName)-10s: %(message)s',
)

def download(url):
    r = requests.get(url)
    return url, r.status_code

def main():
    with ThreadPoolExecutor(5, thread_name_prefix='yhyang') as executor:
        # 创建一个5个线程的池
        # 方法1:
        # futures = [executor.submit(download, url) for url in urls]
        # submit 返回一个future对象,futures值为一个包含多个future对象的列表
        # for future in as_completed(futures):
        #     # as_completed(futures) 得到一个可迭代的对象
        #     try:
        #         print(future.result())
        #     except Exception as e:
        #         print(e)

        # 方法2:map() 是对方法1中submit()的一个封装,简化了使用方法
        futures_result = executor.map(download, urls, timeout=30)
        for future in futures_result:
            try:
                print(future)
            except Exception as e:
                print(e)

if __name__ == '__main__':
    main()

输出: yhyang_0 : Starting new HTTP connection (1): www.baidu.com yhyang_1 : Starting new HTTP connection (1): www.qq.com yhyang_2 : Starting new HTTP connection (1): www.360.com yhyang_3 : Starting new HTTP connection (1): www.baidu.com yhyang_4 : Starting new HTTP connection (1): www.qq.comyhyang_0 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 None ('http://www.baidu.com', 200) yhyang_0 : Starting new HTTP connection (1): www.360.com yhyang_1 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None yhyang_3 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 Noneyhyang_3 : Starting new HTTP connection (1): www.baidu.com yhyang_4 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None ('http://www.qq.com', 200) yhyang_1 : Starting new HTTP connection (1): www.qq.com yhyang_3 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 None yhyang_2 : http://www.360.com:80 "GET / HTTP/1.1" 301 178 yhyang_3 : Starting new HTTP connection (1): www.360.com yhyang_2 : Starting new HTTPS connection (1): www.360.cn yhyang_0 : http://www.360.com:80 "GET / HTTP/1.1" 301 178 yhyang_0 : Starting new HTTPS connection (1): www.360.cn yhyang_1 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None yhyang_3 : http://www.360.com:80 "GET / HTTP/1.1" 301 178 yhyang_3 : Starting new HTTPS connection (1): www.360.cn yhyang_0 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None yhyang_3 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None yhyang_2 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None ('http://www.360.com', 200) ('http://www.baidu.com', 200) ('http://www.qq.com', 200) ('http://www.360.com', 200) ('http://www.baidu.com', 200) ('http://www.qq.com', 200) ('http://www.360.com', 200)

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 最实用的Linux命令行使用技巧汇总

    我们每天都会频繁使用Linux命令行,虽然网上关于其使用技巧的资料多种多样,但很多朋友应该并没有进行过实际尝试。因此,今天的文章将对此进行汇总,希望能为大家带来...

    Lemon黄
  • 为 Nginx Web 服务器保驾护航的若干要点

    Nginx是全球发展势头最猛的开源轻量级高性能Web服务器系统。Nginx可在Linux、 Windows、Mac OS和Solaris等操作系统上运行。Ngi...

    Lemon黄
  • Ajax等待返回结果时,弹出一个友好的等待提示

    jQuery是经常使用的一个开源js框架,其中的$.ajax请求中有一个beforeSend方法,用于在向服务器发送请求前执行一些动作。

    似水的流年
  • ajax中window.location.href不跳转

    $.ajax({ url: '/Ajax/System/ajaxcheshi.ashx', dataType:'text', // datatype: ...

    似水的流年
  • 解锁设计优质API的五种秘籍

    原文标题:Secrets to Great API Design,作者:Tasia Potasinski

    Lemon黄
  • java中Map,List与Set的区别

    数组是大小固定的,并且同一个数组只能存放类型一样的数据(基本类型/引用类型),而JAVA集合可以存储和操作数目不固定的一组数据。 所有的JAVA集合都位于 ja...

    似水的流年
  • vCenter Server Appliance(VCSA)6.7安装

    环境准备 本次在一个已经安装的ESXI 6.7的机器上,虚拟出来一台虚拟机,安装的ubuntu-16.04.6-desktop-amd64系统. 在官网下载对应...

    似水的流年

扫码关注云+社区

领取腾讯云代金券