GPU 编程可以称为异构编程,最近由于机器学习的火热,很多模型越来越依赖于GPU来进行加速运算,所以异构计算的位置越来越重要;异构编程,主要是指CPU+GPU或者CPU+其他设备(FPGA等)协同计算。当前的计算模型中,CPU主要用来进行通用计算,其更多的是注重控制,我们可以通过GPU和FPGA等做专用的计算。
CPU负责逻辑性强的事物处理和串行计算,GPU则专注于执行高度线程化的并行处理任务(大规模计算任务)
编程框架:
三种异构编程框架,对比来看:CUDA和OPENCL 比 C++ AMP 更接近于硬件底层,所以前两者性能较好,C++ AMP 相对前两者 具有较高的易编程性;
三种框架的选择:
异构计算中常见的组合:
通用处理器对协处理器之间,主要考虑一些几个方面:协处理器能全面支持需要用到的场景关键算法(算法性能);协处理器需要有大量并行通道,每个通道支持低延时的数据处理(数据并行和低延时处理能力);和主处理器能方便得进行数据交互(接口性能较好);协处理器可以针对计算需求升级迭代(配置灵活);协处理器更低的运行成本,更小的空间占用和更简单的热处理方案(低功耗);
CPU 与 GPU 体系结构:
CPU 是一种低延迟的设计:
GPU是一种面向吞吐的设计:
参考链接:
http://hustcat.github.io/gpu-architecture/
https://www.cnblogs.com/biglucky/p/4223565.html
https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html
http://haifux.org/lectures/267/Introduction-to-GPUs.pdf (推荐)
资源多整理自网络,保持更新,如果对您有帮助,请关注 cnblogs.com/xuyaowen