专栏首页天天P图攻城狮OpenGL shader性能优化策略(一):减少分支语句

OpenGL shader性能优化策略(一):减少分支语句

一、优化策略:减少使用分支语句

在编写OpenGL shader时,一定要注意减少使用if或for语句,因为这些语句引入分支、会大大降低shader的性能,得不偿失。之所以if语句会对性能有这么大的影响,要从OpenGL的运行机制说起。

二、GPU计算原理:wavefront

以OpenGL通常处理的图像来说,OpenGL的shader在运算的时候,会产生成千上万个线程来对不同的点位区域进行计算,每个线程都使用同一份shader代码、但是处理的数据不同。为了大幅度提高计算速度,OpenGL利用了GPU,而GPU的基本调度单位叫做wavefront(不同平台理念相同、叫法不同,NVIDIA平台叫warp,AMD平台叫wavefront等,本文统称为wavefront)。wavefront是一组线程的组合,既然称之为调度的基本单位,自然是GPU会同时处理属于同一个wavefront的所有线程,因为他们的计算指令(shader)从第一行到最后一行是完全相同的,只是数据不同而已。GPU正是这样通过single instruction multiple thread(SIMT)的方式来进行提速的。这有点类似于CPU中的SIMD加速,只不过CPU中一次SIMD操作只针对一组数据、需要人为编码控制,而GPU的SIMT是从始至终的用相同指令计算所有的线程数据。这样并行度极高,从而大幅提升了性能。

wavefront很形象,中文叫做波阵面,如下图所示。可以看出来是多个线程持续不断的同步计算,每次计算指令相同、uniform部分参数相同、定值参数相同,只有传入纹理、varying参数以及一些本地计算数据等不同而已。

但是一旦引入if/for产生分支,wavefront结构就被完全破坏掉了,会产生diverged wavefront。例如原本4个线程组成一个wavefront一直同步计算,突然遇到if语句,3个线程if判断为true,进入A分支;另一个线程if判断为false,进入B分支,此时这4个线程接下来的指令不再相同,原来的这个线程组wavefront就无法同步计算、被迫分开,即为diverged wavefront。这时候,GPU只能分开执行这两个新产生的wavefront。由于GPU计算资源也是一定的,新产生的两个wavefront可能需要排队等待来顺序执行(原来是并行执行),尤其是wavefront大批量diverged的时候;然后新分割出来的wavefront如果要移动到其他GPU计算单元上还需要进行数据复制转移,也是很耗时的行为。这些都严重破坏了并行度,从而导致性能下降。因此,建议最好少使用产生分支的if语句;for语句有时候也会产生分支,也需要注意。

三、分支语句优化思路

但是很多场景下如果一定需要if语句怎么办呢?通常有以下几种思路:

1、trick方式跳过if:

一些简单的场景可以用OpenGL的step方法把if语句替换。例如原本逻辑为:

可以改为:

其他场景也可以用step函数解决,例如原始逻辑为:

可以改为:

因为step方法属于shader内置函数,要比直接使用if耗时减少不少。

step函数是OpenGL内置的,它会比较传入的两个参数的大小,进而返回0或1。

2、部分分支可被编译优化:

编译器有时可以对分支进行一定的优化。If判断条件一般包含三种数据:

(1)静态分支:If判断语句仅仅包含常数;

(2)uniform数据分支:If判断语句仅仅包含常数或uniform参数;

(3)动态分支:其他情况,If判断语句中有动态变化的数据。

按道理来说,静态数据和uniform数据不会变化,编译器应该可以判断并进行编译优化,但是对于Android开发来说,硬件千差万别,目前据我了解,对于OpenGL ES 2.0,基本上大都只能优化静态分支;对于OpenGL ES 3.0,通常可以优化uniform数据分支,部分机型可能可以优化动态分支。

所以,写分支的时候注意分支的类型,并且如果升级到OpenGL ES 3.0,就基本可以使用uniform数据分支而没有明显的性能损失了。

同理,如果for循环的此时是一个整数、即常量,那么也不会产生分支;只有当for循环的次数也是随着点位的不同动态变化的时候才会产生分支。

3、相同区块情况可以使用分支:

一般来说,相邻的点位区域的线程会组合在同一个wavefront中,如果一个分支与位置相关,例如图像上半部分都是黑色,下半部分是彩色;而If判断条件是颜色是否为黑色,那么大部分情况下同一个wavefront的线程都会在if判断后走同一个分支,这样wavefront就不会diverge。或者判断条件是和位置有关的,那么大概率也不会diverge。只要不产生diverge就不会对性能有很大影响。

4、全量代码,但保证某些分支不起作用:

此外,经过测试,假设If可以产生两个分支,将两个分支的指令全部执行完可能还会比使用If判断还要快。下面举例说明。假设当前需要根据a的值来选择计算result的方法,通常代码如下:

 那么为了减少diverge,以上代码可以改写为:

如果不是a==0的情况也可以通过step方式来转换。很多情况下,全量执行所有分支的代码比使用If判断还要快,这个可以通过实际测试比较来进行选择。 

四、总结

本文主要提出的优化思路就是在OpenGL的shader中尽量少使用if/for等分支语句,因为这会破坏GPU的wavefront结构,从而造成性能损失。如果非用不可也可以参考文中提到的4种策略。总体来说,GPU擅长的是计算而非逻辑判断,所以和逻辑有关的事情还是不在GPU上操作为好。

作者简介:alex, 天天P图AND工程师


文章后记: 天天P图是由腾讯公司开发的业内领先的图像处理,相机美拍的APP。欢迎扫码或搜索关注我们的微信公众号:“天天P图攻城狮”,那上面将陆续公开分享我们的技术实践,期待一起交流学习! 加入我们: 天天P图技术团队长期招聘: (1) AND / iOS 开发工程师 (2) 图像处理算法工程师  期待对我们感兴趣或者有推荐的技术牛人加入我们(base 上海)!联系方式:ttpic_dev@qq.com

本文分享自微信公众号 - 天天P图攻城狮(ttpic_dev)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-12-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 从源码角度剖析Android系统EGL及GL线程

    从事 OpenGL ES 相关开发的技术人员,常常会对一些问题感到困惑,例如GL线程究竟是什么?为什么在这个 GL 线程申请的 texture 不能在另外一个 ...

    天天P图攻城狮
  • Android图像处理系列:OpenGL深度测试的应用

    什么是深度测试? 深度测试是指检测从某个方向看过去时,两个点A和B谁在谁的前面,以便知道谁挡住了谁,被挡住的点一般不会进行绘制,以达到和真实世界一样的遮挡效...

    天天P图攻城狮
  • RecyclerView 必知必会

    回顾整篇文章,发现我们已经实现了RecyclerView的很多扩展功能,包括:打造万能适配器、添加Item事件、添加头视图和尾视图、设置空布局、侧滑拖拽。

    天天P图攻城狮
  • hystrix线程池隔离的原理与验证

    hystrix可以完成隔离、限流、熔断、降级这些常用保护功能。这四个功能可以这么来理解:

    静儿
  • 华为8年架构专家总结:微服务架构中zuul的两种隔离机制实验

    美的让人心动
  • 常见网络服务器并发模型

    近些年,随着互联网的大发展,高并发服务器技术也快速进步,从简单的循环服务器模型处理少量网络并发请求,演进到解决C10K,C10M问题的高并发服务...

    想看我的胸毛吗
  • sql功底展示

    用户5166330
  • 高可用架构设计(9)-基于Hystrix信号量资源隔离与限流

    Hystrix里面,核心的一项功能,就是资源隔离,要解决的最核心的问题,就是将多个依赖服务的调用分别隔离到各自自己的资源池内

    JavaEdge
  • 死磕 java集合之SynchronousQueue源码分析

    SynchronousQueue是java并发包下无缓冲阻塞队列,它用来在两个线程之间移交元素,但是它有个很大的问题,你知道是什么吗?请看下面的分析。

    彤哥
  • Java并发编程(6)- J.U.C组件拓展

    在Java中一般通过继承Thread类或者实现Runnable接口这两种方式来创建线程,但是这两种方式都有个缺陷,就是不能在执行完成后获取执行的结果,因此Jav...

    端碗吹水

扫码关注云+社区

领取腾讯云代金券