出于某些原因，想记录一下我过去数年使用 Python 的经验和一些感悟。毕竟算是一门把我带入互联网行业的语言，而我近期已经几乎不再写 Py 代码， 做一个记录，也许会对他人起到些微的帮助，也算是纪念与感恩了。
根据文章内容撰写摘要总结。
先介绍下背景：由于工作需要，前段时间又写了一段爬虫去获取和更新一些数据。之前爬虫主要用Scrapy框架批量爬取一些页面数据，或者用Gevent调用目标站点的接口。偶然看到了Tornado，听说这个框架很强大，所以打算这次爬虫用Tornado试试。不足之处，欢迎指正。
讲师的博客：https://www.cnblogs.com/wupeiqi/p/6229292.html 在编写爬虫时，性能的消耗主要在IO请求中，当单进程单线程模式下请求URL时必然会引起等待，从而使得请求整体变慢。 比如找10个国外的资源爬取，慢的效果就很明显。
官网文档：http://apscheduler.readthedoc... API：http://apscheduler.readthedoc...
Python中进行并发编程一般使用threading和multiprocessing模块，不过大部分的并发编程任务都是派生一系列线程，从队列中收集资源，然后用队列收集结果。在这些任务中，往往需要生成线程池，concurrent.futures模块对threading和multiprocessing模块进行了进一步的包装，可以很方便地实现池的功能。
第一次接触futures模块是在tornado中，tornado4.0版本使用futures频率很高，因为tornado本身的corouting的异步功能，是需要逻辑里面所调用的模块本身就支持异步才可以实现，而futures模块恰恰支持异步。在futures模块中，我们关心的是Executor和Future这两个类。
concurrent.futures模块提供了高度封装的异步调用接口 ThreadPoolExecutor：线程池，提供异步调用 ProcessPoolExecutor: 进程池，提供异步调用
future初识 通过下面脚本来对future进行一个初步了解： 例子1：普通通过循环的方式 1 import os 2 import time 3 import sys 4 5 impo
APScheduler，全称是_Advanced Python Scheduler_，具体的介绍可以看PyPI或者readthedocs的文档介绍，这篇 blog 主要是翻译User Guide一节的主要内容，不过惯例还是先简单介绍一下这个库特别的地方。
进程池:from concurrent.futuresimport ProcessPoolExecutor
导读：我很笨，但是我很快——计算机之所以计算能力如此出众，不在于其有多智能，而是因为它超快的执行速度，而多核心则可以进一步成倍的提高效率。在python中，concurrent库就是用于完成并发的模块之一。
def gcd(pair): a, b = pair low = min(a, b) for i in range(low, 0, -1): if a % i == 0 and b % i == 0: return i
随着程序复杂度和数据量的不断增加，传统的同步编程方式已经无法满足开发人员的需求。异步编程随之产生，能够提供更高的并发性能和更好的资源利用率。Python的concurrent.futures模块是一个很好的异步编程工具，它提供了一组接口，可以方便地进行并发编程。
我们都知道python因为其GIL锁导致每一个线程被绑定到一个核上，导致python无法通过线程实现真正的平行计算。从而导致大量的核算力的浪费。但是
很多时候我们写了一个爬虫，实现了需求后会发现了很多值得改进的地方，其中很重要的一点就是爬取速度。本文就通过代码讲解如何使用多进程、多线程、协程来提升爬取速度。注意：我们不深入介绍理论和原理，一切都在代码中。
今天准备实现一个功能需要用到定时执行任务，所以就看到了Python的一个定时任务框架APScheduler，试了一下感觉还不错。
随着计算机技术的发展，诸如GPU和超算平台等越来越发达，这些技术的本质其实并没有带来算法上的革新，之所以能够提升计算的速度和规模，很大程度上是因为分布式和并行计算的优势。这里我们介绍一个简单的python自带的多进程的代码实现，使用的是concurrent这个工具，同时我们也会介绍如何更好的配置多进程的资源。
从队列中删除项目并将其返回。 返回可等待项目龙卷风。util在项目可用或引发after TimeoutError超时后解析。 超时可以是一个表示时间的数字（使用tornado.ioloop.ioloop.time，通常是time.time）datetime timedelta对象用于相对于当前时间的截止时间。指示先前排队的任务已完成。
一、关于concurrent.futures模块 Python标准库为我们提供了threading和multiprocessing模块编写相应的异步多线程/多进程代码。从Python3.2开始，标准库为我们提供了concurrent.futures模块，它提供了ThreadPoolExecutor和ProcessPoolExecutor两个类ThreadPoolExecutor和ProcessPoolExecutor继承了Executor，分别被用来创建线程池和进程池的代码。实现了对threading和mu
GIL这个话题至今也是个争议较多的，对于不用应用场景对线程的需求也就不同，说下我听过的优点： 1. 我没有用过其他语言的多线程，所以无法比较什么，但是对于I/O而言，Python的线程还是比较高效的。 2. 有些第三方基于Python的框架和库，比如Tensorflow等基于C/C plus plus重写的Python线程机制。 3. 至于换成Cython编译器解决GIL，这个只是听过，没用过。 4. Python多线程对于web、爬虫方面也可以表现出较好的性能。 5. Python多进程是完好的，可以把资源消耗较少的非必要线程工作转为多进程来工作。 6. 计算密集型就别想多线程了，一律多进程。 7. Python还有细粒度且高效的协程。 8. 如果有N核CPU，那么同时并行的进程数就是N，每个进程里面只有一个线程能抢到工作权限。 所以同一时刻最大的并行线程数=进程数=CPU的核数（这条我的个人理解很模糊，参考吧）
concurrent.futures --- 启动并行任务 — Python 3.7.13 文档
python因为其全局解释器锁GIL而无法通过线程实现真正的平行计算。这个论断我们不展开，但是有个概念我们要说明，IO密集型 vs. 计算密集型。 IO密集型：读取文件，读取网络套接字频繁。 计算密集型：大量消耗CPU的数学与逻辑运算，也就是我们这里说的平行计算。 而concurrent.futures模块，可以利用multiprocessing实现真正的平行计算。 核心原理是：concurrent.futures会以子进程的形式，平行的运行多个python解释器，从而令python程序可以利用多核CPU来
在我们的日常工作自动化测试当中，几乎超过一半的功能都需要利用定时的任务来推动触发，例如在我们项目中有一个定时监控模块，根据自己设置的频率定时跑测试用例，定时检测是否存在线上紧急任务等等，这些都涉及到了有关定时任务的问题，很多情况下，大多数人会选择window的任务计划程序，但如果程序不在window平台下运行，就不能定时启动了；当然也可利用time模块的time.sleep()方法使程序休眠来达到定时任务的目的，但定时任务多了，代码可能看起来不太那么友好且有很大的局限性，因此，此时的Apscheduler
可以为进程池或线程池内的每个进程或线程绑定一个函数，该函数在进程或线程的任务执行完毕后自动触发，并接收任务的返回值当作参数，该函数称为回调函数。
问题：为什么多个线程不能同时使用一个python解释器呢？ 这是因为在Python中有一种垃圾回收机制，当一个value的引用计数为0之后，就会被python的垃圾回收机制所清空掉。但是python的垃圾回收机制其实也是通过一个线程来执行的，如果可以同时调用解释器，这就会出现这样一个问题：如果我赋值了一个操作a = [1, 2, 3]的时候，当我这个线程还没有执行这个操作，只是创建了一个值[1, 2, 3]的时候，突然python解释器把垃圾回收机制的线程给执行了，这是垃圾回收机制就会发现这个值[1, 2, 3]当前引用计数还是0呢，就直接清掉了，但是此时我还没有来得及给a赋值呢，这就出现了数据错乱的问题。 # This lock is necessary mainly because CPython’s memory management is not thread-safe. # 意思是CPython的内存管理机制(垃圾回收机制)不是线程安全的，因此我们不能让python线程同时去调用python解释器。
使用：移动端多用例并行执行的时候，需要设备空闲才执行，我们可以用线程来管理一个设备，设备执行完毕 就下发一个任务。这个最好的方式 可以和队列放在一起去执行。
concurrent.futures模块的主要特色是ThreadPoolExecutor和ProcessPoolExecutor类。
我们在前两章提到了线程、进程，还有并发编程。我们在很高的层次，用抽象的名词，讲了如何组织代码，已让其部分并发运行，在多个CPU上或在多台机器上。 本章中，我们会更细致的学习Python是如何使用多个CPU进行并发编程的。具体目标是加速CPU密集型任务，提高I/O密集型任务的反馈性。 好消息是，使用Python的标准库就可以进行并发编程。这不是说不用第三方的库或工具。只是本章中的代码仅仅利用到了Python的标准库。 本章介绍如下内容： 多线程 多进程 多进程队列 多线程 Python从1.4版本开始就支持多
可以看到在耗cpu的应用中,多进程明显优于多线程 2.6130592823028564 < 3.905290126800537
上次测试女神听了我的建议，已经做好了要给项目添加定时任务的决定了。但是之前提供的四种方式中，她不知道具体选择哪一个。为了和女神更近一步，我把我入行近10年收藏的干货免费拿出来分享给女神，希望女神凌晨2点再找我的时候，不再是因为要给他调程序了。
1.实现处理请求的Handler，该类继承自tornado.web.RequestHandler，实现用于处理请求的对应方法如：get、post等。返回内容用self.write方法输出。
concurrent.futures 是标准库里的一个模块，它提供了一个实现异步任务的高级 API 接口。本文将通过一些代码例子来介绍这个模块常见的用法。
原题 | PYTHON: A QUICK INTRODUCTION TO THE CONCURRENT.FUTURES MODULE
而物理设备的性能是有限的，虽然可以加设备来提升上限，但如果像淘宝双十一那样，只有很少的时刻需要大量的资源，为了满足这个去买一大堆服务器显然是不划算的
以Django为代表的python web应用部署时采用wsgi协议与服务器对接（被服务器托管），而这类服务器通常都是基于多线程的，也就是说每一个网络请求服务器都会有一个对应的线程来用web应用（如Django）进行处理。
本文由腾讯云+社区自动同步，原文地址 http://blogtest.stackoverflow.club/115/
Gunicorn 是一个 Python 的 WSGI HTTP 服务器。它所在的位置通常是在反向代理（如 Nginx）或者 负载均衡（如 AWS ELB）和一个 web 应用（比如 Django 或者 Flask）之间。它是一个移植自Ruby的Unicorn项目的pre-fork worker模型，即支持eventlet也支持greenlet。 如果对Flask框架还有不清楚的地方，可以查看本文一分钟学会Flask框架的安装与快速使用 Gunicorn启动项目之后一定会有一个主进程Master和一个或者多个工作进程。工作进程的数量可以指定。工作进程是实际处理请求的进程。主进程是维护服务器的运行。
所谓死锁：是指两个或两个以上的进程或线程在执行过程中，因争夺资源而造成的一种互相等待的现象 如下就是死锁：
并发编程是刚需，尤其是在多 I/O 操作时，多线程，协程，多进程三路英雄各显神通。多线程，协程属于并发操作，多进程属于并行操作，那么你是否清楚了什么是并发，什么是并行？
打开浏览器，输入网址127.0.0.1:8000（或localhost:8000）
同步调用：提交完任务后，就在原地等待任务执行完毕，拿到运行结果/返回值后再执行下一步，同步调用下任务是串行执行。
上篇文章，我们了解到有三种办法能实现定时任务，但是都无法做到循环执行定时任务。因此，需要一个能够担当此重任的库。它就是 APScheduler。
也就是说，硬件的承载能力是有限度的，在保证高效率工作的同时应该还需要保证硬件的资源占用情况，所以需要给硬件设置一个上限来减轻硬件的压力，所以就有了池的概念。
python的高性能web应用的开发与测试实验 tornado“同步和异步”网络IO模型实验 引言 python语言一直以开发效率高著称，被广泛地应用于自动化领域： 测试自动化 运维自动化 构建发布自
Cpython解释器自带的GIL解释器锁，线程要想执行代码去抢锁，抢python解释器，之后才回收，那么这样就能保证了阻止同一个进程下的多个线程同时被运行，不容易造成数据错乱；比如，抢票，如果你提交了订单，那么别人还能操作到你这张票的订单吗？不会了吧；这样就进而使数据不容易错乱；
multiprocess模块的完全模仿了threading模块的接口，二者在使用层面，有很大的相似性，因而不再详细介绍
Python实现多线程/多进程，大家常常会用到标准库中的threading和multiprocessing模块。
1、 线程睡眠函数 sleep() ——粗暴！一直占有 CPU 资源，导致后续操作无法执行
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
