注意： 这篇文章的 Jupyter Notebook 代码在我的 Github 上：SpeedUpYourAlgorithms-Numba
之前写过一篇讲述如何使用pycuda来在Python上写CUDA程序的博客。这个方案的特点在于完全遵循了CUDA程序的写法，只是支持了一些常用函数的接口，如果你需要自己写CUDA算子，那么就只能使用非常不Pythonic的写法。还有一种常见的方法是用cupy来替代numpy，相当于一个GPU版本的numpy。那么本文要讲述的是用numba自带的装饰器，来写一个非常Pythonic的CUDA程序。
之前的文章《源代码如何被计算机执行》已经提到计算机只能执行二进制的机器码，C、C++等编译型语言依靠编译器将源代码转化为可执行文件后才能运行，Python、Java等解释型语言使用解释器将源代码翻译后在虚拟机上执行。对于Python，由于解释器的存在，其执行效率比C语言慢几倍甚至几十倍。
官方文档：http://numba.pydata.org/numba-doc/latest/reference/pysupported.html
GPU加速是现代工业各种场景中非常常用的一种技术，这得益于GPU计算的高度并行化。在Python中存在有多种GPU并行优化的解决方案，包括之前的博客中提到的cupy、pycuda和numba.cuda，都是GPU加速的标志性Python库。这里我们重点推numba.cuda这一解决方案，因为cupy的优势在于实现好了的众多的函数，在算法实现的灵活性上还比较欠缺；而pycuda虽然提供了很好的灵活性和相当高的性能，但是这要求我们必须在Python的代码中插入C代码，这显然是非常不Pythonic的解决方案。因此我们可以选择numba.cuda这一解决方案，只要在Python函数前方加一个numba.cuda.jit的修饰器，就可以在Python中用最Python的编程语法，实现GPU的加速效果。
python由于它动态解释性语言的特性，跑起代码来相比java、c++要慢很多，尤其在做科学计算的时候，十亿百亿级别的运算，让python的这种劣势更加凸显。
说这句话的人也没有错。与许多其他编程语言相比，Python很慢。Benchmark game有一些比较不同编程语言在不同任务上的速度的可靠的基准。
numba是一款可以将python函数编译为机器代码的JIT编译器，经过numba编译的python代码（仅限数组运算），其运行速度可以接近C或FORTRAN语言。
你是不是曾经有这样的苦恼，python 真的太好用了，但是它真的好慢啊（哭死) ; C++ 很快，但是真的好难写啊，此生能不碰它就不碰它。老天啊，有没有什么两全其美的办法呢？俗话说的好：办法总是比困难多，大家都有这个问题，自然也就有大佬来试着解决这个问题，这就请出我们今天的主角: numba
在处理大规模数据集或进行复杂计算时，利用 GPU 进行加速是一种常见的优化手段。NumPy 提供了一些工具和技术，可以方便地在 GPU 上执行计算。在本篇博客中，我们将深入介绍 NumPy 中的 GPU 加速，并通过实例演示如何应用这些技术。
Python是当前最流行的编程语言，被广泛应用在深度学习、金融建模、科学和工程计算上。作为一门解释型语言，它运行速度慢也常常被用户诟病。著名Python发行商Anaconda公司开发的Numba库为程序员提供了Python版CPU和GPU编程工具，速度比原生Python快数十倍甚至更多。使用Numba进行GPU编程，你可以享受：
摘要： 在计算能力为王的时代，具有高性能计算的库正在被广泛大家应用于处理大数据。例如：Numpy，本文介绍了一个新的Python库——Numba， 在计算性能方面，它比Numpy表现的更好。 最近我在观看一些SciPy2017会议的视频，偶然发现关于Numba的来历--讲述了那些C++的高手们因为对Gil Forsyth和Lorena Barba失去信心而编写的一个库。虽然本人觉得这个做法有些不妥，但我真的很喜欢他们所分享的知识。因为我发现自己正在受益于这个库，并且从Python代码中获得了令人难以置信
Numpy是在Python中非常常用的一个库，不仅具有良好的接口文档和生态，还具备了最顶级的性能，这个库很大程度上的弥补了Python本身性能上的缺陷。虽然我们也可以自己使用Cython或者是在Python中调用C++的动态链接库，但是我们自己实现的方法不一定有Numpy实现的快，这得益于Numpy对于SIMD等技术的深入实现，把CPU的性能发挥到了极致。因此我们只能考虑弯道超车，尝试下能否用自己实现的GPU的算法来打败Numpy的实现。
PU（图形处理单元）最初是为计算机图形开发的，但是现在它们几乎在所有需要高计算吞吐量的领域无处不在。这一发展是由GPGPU(通用GPU)接口的开发实现的，它允许我们使用GPU进行通用计算编程。这些接口中最常见的是CUDA，其次是OpenCL和最近刚出现的HIP。
本文为英伟达GPU计算加速系列的第四篇，主要基于前三篇文章的内容，以金融领域期权估值案例来进行实战练习。前三篇文章为：
使用Python写CUDA程序有两种方式： * Numba * PyCUDA
在 24式加速你的Python中介绍对循环的加速方法中，一个办法就是采用 Numba 加速，刚好最近看到一篇文章介绍了利用 Numba 加速 Python ，文章主要介绍了两个例子，也是 Numba 的两大作用，分别是加速循环，以及对 Numpy 的计算加速。
pandas、numpy是Python数据科学中非常常用的库，numpy是Python的数值计算扩展，专门用来处理矩阵，它的运算效率比列表更高效。pandas是基于numpy的数据处理工具，能更方便的操作大型表格类型的数据集。但是，随着数据量的剧增，有时numpy和pandas的速度就成瓶颈。
有任务需要处理一堆收集来得开源数据集，在服务器单机跑了一天才给结果，多方咨询有HPC可以用，或者叫supercomputer，或者叫计算机集群，大部分的简称grid。看了wiki、confluence，给出一堆链接在脑海中织出密密麻麻的蜘蛛网——无从下手。居然没有use case出发端到端的参考demo，真是无力吐槽。自力更生求助google，youtube，stack overflow，梳理下来，简而言之，可以理解分而治之多线程的多处理核（cpu/gpu）的版本，涉及算力资源调度引入slurm，涉及通讯引入mpi。
在数学和物理学领域，总是充满了各种连续的函数模型。而当我们用现代计算机的技术去处理这些问题的时候，事实上是无法直接处理连续模型的，绝大多数的情况下都要转化成一个离散的模型再进行数值的计算。比如计算数值的积分，计算数值的二阶导数（海森矩阵）等等。这里我们所介绍的打格点的算法，正是一种典型的离散化方法。这个对空间做离散化的方法，可以在很大程度上简化运算量。比如在分子动力学模拟中，计算近邻表的时候，如果不采用打格点的方法，那么就要针对整个空间所有的原子进行搜索，计算出来距离再判断是否近邻。而如果采用打格点的方法，我们只需要先遍历一遍原子对齐进行打格点的离散化，之后再计算近邻表的时候，只需要计算三维空间下邻近的27个格子中的原子是否满足近邻条件即可。在这篇文章中，我们主要探讨如何用GPU来实现打格点的算法。
Numba @jit 装饰器有两种编译模式, Nopython 模式和Object 模式。nopython编译模式的行为本质上是编译修饰后的函数，使其完全运行而不需要Python解释器的参与。这是使用Numba jit装饰器的推荐和最佳实践方法，因为它可以获得最佳性能。@jit(nopython=True) 等效于@njit（）。
其实前面讲算法的文章，也有提到过。比如适用于双向队列的 deque，以及在合适的条件下运用 bisect 和 heapq 来提升算法的性能。
Pyston团队宣布加入Anaconda 近日，Pyston团队宣布加入Anaconda，继续对他们的优化Python解释器进行开源开发。Kevin Modzelewski和?Marius Wacht
python是一门高效动态编程语言，由于其采用简洁明了的语法以及灵活性深受大家欢迎。但是，这既是它最大的优势，也是最大的劣势。它的灵活性和无类型的高级语法可能会导致数据和计算密集型程序的性能不佳，因为运行本地编译代码要比运行动态解释代码快很多倍。
在前三部分中我们介绍了CUDA开发的大部分基础知识，例如启动内核来执行并行任务、利用共享内存来执行快速归并、将可重用逻辑封装为设备函数以及如何使用事件和流来组织和控制内核执行。
Numba是Python的即时编译器，在使用NumPy数组和函数以及循环的代码上效果最佳。使用Numba的最常见方法是通过其装饰器集合，这些装饰器可应用于您的函数以指示Numba对其进行编译。调用Numba装饰函数时，它会被“即时”编译为机器代码以执行，并且您的全部或部分代码随后可以本机机器速度运行！
python一直被病垢运行速度太慢，但是实际上python的执行效率并不慢，慢的是python用的解释器Cpython运行效率太差。
在我先前的博文【图像配准】多图配准/不同特征提取算法/匹配器比较测试中，提到了图像融合的一种方式，相关代码如下：
Numba 利用LLVM将python函数编译成优化后的机器码。Numba编译的由python写的数学算法能够接近C或Fortran的运行速度。LLVM 不仅能编译numba代码，还擅长优化它。
Python 是门多才多艺的语言，既可以写后端，也可以做数据分析，既可以智能化运维，也可以搞渗透，既可以写爬虫，又可以做机器学习深度学习。然而，Python 的缺点也很明显，它的速度有点慢。
在前面的几篇博客中我们介绍了在Python中使用Numba来写CUDA程序的一些基本操作和方法，并且展示了GPU加速的实际效果。在可并行化的算法中，比如计算两个矢量的加和，或者是在分子动力学模拟领域中的查找近邻表等等，都是可以直接并行的算法，而且实现起来难度不大。而有一种情况是，如果我们要计算的内容的线程之间互相存在依赖，比方说最常见的，计算一个矩阵所有元素的和。
Hi! 大家好，又和大家见面了。上次给大家介绍了Numba中一句话加速for循环的@jit加速你的python脚本，今天继续给大家介绍另外一个我觉得很不错的Numba的用法。
Python 是一个用途非常广泛的编程语言，拥有成千上万的第三方库，在人工智能、机器学习、自动化等方面有着广泛的应用，众所周知，Python 是动态语言，有全局解释器锁，比其他静态语言要慢，也正是这个原因，你也许会转向其他语言如 Java、C++，不过先等等，今天分享一个可以让 Python 比 C++ 还要快的技术，看完再决定要不要转吧。
在前一篇文章中，我们介绍了如何使用 GPU 运行的并行算法。这些并行任务是那些完全相互独立的任务，这点与我们一般认识的编程方式有很大的不同，虽然我们可以从并行中受益，但是这种奇葩的并行运行方式对于我们来说肯定感到非常的复杂。所以在本篇文章的Numba代码中，我们将介绍一些允许线程在计算中协作的常见技术。
因为近期要写嵌套for循环，由于运算量有点大，耗时比较久。所以就在谷歌上搜了搜有没有办法可以提升python for loop的速度，然后就发现了非常好用的模块：Numba
python作为一门编程语言，有非常大的生态优势，但是其执行效率一直被人诟病。纯粹的python代码跑起来速度会非常的缓慢，因此很多对性能要求比较高的python库，需要用C++或者Fortran来构造底层算法模块，再用python进行上层封装的方案。在前面写过的这篇博客中，介绍了使用f2py将fortran代码编译成动态链接库的方案，这可以认为是一种“事前编译”的手段。但是本文将要介绍一种即时编译（Just In Time，简称JIT）的手段，也就是在临近执行函数前，才对其进行编译。以下截图来自于参考链接4，讲述了关于常见的一些编译场景的区别：
不论什么语言，我们都需要注意性能优化问题，提高执行效率。选择了脚本语言就要忍受其速度，这句话在某种程度上说明了Python作为脚本语言的不足之 处，那就是执行效率和性能不够亮。尽管Python从未如C和Java一般快速，但是不少Python项目都处于开发语言领先位置。 Python 很简单易用，但大多数人使用Python都知道在处理密集型cpu工作时，它的数量级依然低于C、Java和JavaScript。但不少第三方不愿赘述 Python的优点，而是决定自内而外提高其性能。如果你想让Python在同一硬件
numba是一个用于编译Python数组和数值计算函数的编译器，这个编译器能够大幅提高直接使用Python编写的函数的运算速度。
如果你是一名数据科学家，你很有可能使用Python或R编程。但是有一个叫Julia的新成员承诺在不影响数据科学家编写代码和与数据交互的情况下拥有c一样的性能。
NumPy的创始人Travis，创建了CONTINUUM，致力于将Python大数据处理方面的应用。 推出的Numba项目能够将处理NumPy数组的Python函数JIT编译为==机器码执行==，从而上百倍的提高程序的运算速度。
使用python进入一个熟练的状态之后就会思考提升代码的性能，尤其是python的执行效率还有很大提升空间(委婉的说法)。面对提升效率这个话题，python自身提供了很多高性能模块，很多大牛开发出了高效第三方包，可谓是百花齐放。下面根据我个人使用总结出提升性能的几个层面和相关方法。
花下猫语：最近，读者微信群里又频繁聊到了 Python 的性能问题，这真是老生常谈了。我想起自己曾收藏过几篇关于如何提升性能的文章，似乎挺有帮助的，便去联系了下作者，现在已经取得转载授权啦。今天分享其中一篇，后续还会有其它相关分享，希望对读者们也有所帮助。
容器化技术在各种生产领域已经得到了广泛的应用，这得益于容器的轻量化（相比于虚拟机而言），安全性（隔离弱于虚拟机，但是权限控制得当的情况下也可以认为是安全隔离的）以及系统级虚拟化带来的高可用性（基于NameSpace和cgroup）。虽然现在各大平台的兼容性有趋同的势头，比如Windows推出了WSL子系统，使得用户在Windows机器上也可以很轻松的搭建Linux环境。但是容器依然保持着它的热度，这说明它的可用性并不是一个系统组件就可以替代的。前面几篇文章中我们介绍过Docker容器和Singularity容器的用法，这里我们再讲讲Singularity容器的非源码安装方法（Manjaro Linux平台），以及修改静态容器镜像文件的方法。
numba 是一款可以将 python 函数编译为机器代码的JIT编译器，经过 numba 编译的python 代码（仅限数组运算），其运行速度可以接近 C 或 FORTRAN 语言。python 之所以慢，是因为它是靠 CPython 编译的，numba 的作用是给 python 换一种编译器。
Python 已经成为世界上最流行的编程语言，尤其在深度学习、数据科学等领域占据主导地位。但是由于其解释执行的属性，Python 较低的性能很影响它在计算密集（比如多重 for 循环）的场景下发挥作用，实在让人又爱又恨。如果你是一名经常需要使用 Python 进行密集计算的开发者，我相信你肯定会有下面的类似经历：
Python 编程语言的一大优点是它把所有功能都打包到一个小包中，这些功能非常有用。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
