python pycuda进行GPU编程(并行编程 38)

类似的框架还有：numbapy pyopencl

CPU v.s. GPU

image.png

CPU是被设计用来处理复杂任务的，而GPU只能做好一件事-处理百万级的低级任务（原来是被用来生成3D图形中的三角形），而且GPU有上千个ALU（算术逻辑单元），而CPU通常只有8个。而且很多程序大部分时间都花在GPU擅长的简单运算上了，所以GPU加速程序很有必要。 CUDA编程有越来越复杂的趋势，但pyCUDA则大大简化了这个过程，并且拥有GPU加速的享受，所以面向GPU的高级编程正逐渐成为主流。 GPU内部图：

image.png

CUDA处理流程图： ![HelloGPU例子：

import pycuda.driver as drv import pycuda.tools import pycuda.autoinit import numpy import numpy.linalg as la from pycuda.compiler import SourceModule

mod = SourceModule(""" global void multiply_them(float *dest, float *a, float *b) { const int i = threadIdx.x; dest[i] = a[i] * b[i]; } """)

multiply_them = mod.get_function("multiply_them")

a = numpy.random.randn(400).astype(numpy.float32) b = numpy.random.randn(400).astype(numpy.float32)

dest = numpy.zeros_like(a) multiply_them( drv.Out(dest), drv.In(a), drv.In(b), block=(400,1,1))

print(dest-a*b)