专栏首页GiantPandaCV【AI移动端算法优化】一,CVRR 2018 Side Window Filtering 论文解读和C++实现

【AI移动端算法优化】一,CVRR 2018 Side Window Filtering 论文解读和C++实现

本文首发于我的知乎,地址为:https://zhuanlan.zhihu.com/p/64647829

1. 前言

刚开始看到这篇论文的时候,我就很感兴趣想去复现一把看看效果。这篇论文是今年 CVPR oral 且不是深度学习方向的,其核心贡献点就是:不管原来的滤波器保不保边,运用了side-window思想之后,都可以让它变成保边滤波! 论文地址为:https://arxiv.org/pdf/1905.07177.pdf

2. 实现和效果

利用业余时间,参考作者开源的matlab代码,我用C++实现了一下Side-window 盒子滤波,其他滤波器有时间再试下,下面是github的链接,读者可以去跑下代码看看效果玩下,从实验结果上看我觉得算是复现了论文的效果:

side window 盒子滤波C++复现代码:

https://github.com/Ldpe2G/ArmNeonOptimization/tree/master/sideWindowBoxFilter

side window 中值滤波C++复现代码:

https://github.com/Ldpe2G/ArmNeonOptimization/tree/master/sideWindowMedianFilter

我们来看下复现论文的效果,对于一张普通图片,经典的盒子滤波和side-window盒子滤波的效果对比

盒子滤波效果对比图

从滤波结果对比上可以看到,经典的盒子滤波随着对同一张图片反复应用盒子滤波的迭代次数的增加,视觉效果是越来越模糊,到了30次迭代的时候已经糊的没法看了,但是Side-window盒子滤波即使迭代了30次,对于边缘的保持还很好,和原图基本看不出大的区别,就是边缘细节有些丢失。

然后对原图加上椒盐噪声,再对比下滤波效果:

加了噪声之后的盒子滤波效果对比图

从滤波结果对比上可以看到,经典的盒子滤波到了10次迭代的时候,虽然椒盐噪声已经很好的消除了,但是图片也变得很模糊,边缘都细节都丢失了,但是Side-window盒子滤波却能很好的消除椒盐噪声的同时,对于边缘的保持还很好,基本上算是还原了原图。

3. 原理解读

下面从我的理解上去简单解读下这篇论文的核心思想,还有我在复现过程中的一些实现细节介绍。

目前的经典滤波算法基本是以某个像素点为中心,按照滤波半径,把这个包括像素点和其邻域加权线性组合得到输出,一般公式如下:

是以像素点为中心的滤波窗口,是滤波权值,是原图像素值,是输出结果。但是这样以一个像素为中心去滤波会导致的问题是,如果一个像素点处在边缘位置(这里的边缘不是指图片的大小边界,而是指图像中物体的边缘)的话,以像素为中心去滤波会导致滤波结果的边缘部分变模糊。具体是为什么,论文中给出了分析过程。

首先来看下,论文中的一张图:

三种典型的边缘

文中提到为了分析方便只讨论3种典型的边缘,分别是图中的 (a)阶梯状边缘、(b)斜坡状边缘和(c)屋顶状边缘。论文中也给出了这3三种边缘的形象展示:

三种典型的边缘形象展示

然后文中采用了泰勒展开去分析,首先假定,图像上坐标点的像素值为,对于图中展示的情况来看,函数是连续但不可导的。对于(a)阶梯状边缘的(蓝色方框那个点)点来说,文中定义 和来分别表示点左极限ε,和右极限ε,且ε。很明显从图中可以看出来εε 且/或(原论文中的用词是)εε,导数也不等是由于边缘部分的跳跃。因此对于这两块区域的泰勒展开也是不一样的,首先来看下泰勒展开的一般公式:

“泰勒公式是将一个在 x=x0 处具有n阶导数的函数 f(x) 利用关于 (x - x0) 的n次多项式来逼近函数的方法。”----百度百科

根据文中的分析,这里设定ε,ε,则根据泰勒展开公式:

εεε

同理,设ε,ε,则泰勒展开得:

εεε

所以从两边的泰勒展开式可以得出结论,对于区域的滤波估计肯定是来自区域的左边,而对于估计是来自于的右边,然后类比分析区域, 和 都可以得到类似的结论。

因此分析得到的结论是,如果一个像素点处于图像中的边缘位置,那么滤波的时候就应该把滤波器的边缘和该像素点对齐,而不是把滤波器的中心和该像素点对齐。受该发现的启发,文中提出了一个新的保边滤波策略,就是把每个滤波像素点都当成是潜在的边缘点,然后对于每个待滤波的像素点,生成几种不同的滤波子窗口,然后把这些滤波窗口的边缘或者角点位置和该像素点对齐,然后滤波得到结果,最后根据把这些子窗口的滤波之后的最佳重构结果作为最终的滤波结果。 以上就是side window 滤波的思想。

然后文中提出了8个方向的滤波窗口,分别是上、下,左、右、左上、右上、左下和右下,最后就得到了side window filter 的核心算法流程:

side window filter 的核心算法流程

其实从核心算法逻辑来看,对原来滤波算法的改动其实不大,就是滤波的窗口位置和大小需要改动下,然后把8次的结果每个位置取重构误差最小的。然后论文中又详细分析了box filter和side window box filter 对于上面提到的三种经典边缘的滤波之后的保留情况。文中给出分析的图表如下:

三种经典边缘的滤波之后的保留情况

总的来说结论就是 side window box filter 对于阶梯和斜坡状的边缘都能完整的保留,而对于屋顶状边缘虽然不能完整的保留边缘,但是也比经典的盒子滤波要好很多。

在复现过程中,本来一开始是想对文中提到的8种side window去分别写对应的盒子滤波的,因为盒子滤波有个经典的优化思路,可以让运行时间不受滤波半径的影响,这个我之后会在这个系列发出来。

后来仔细想了下,这8个side window其实也就是边界处理不同,核心运算逻辑都是一致的,最后就是抽象成一个函数,对于不同的side window传不同的边界参数,就不需要每个窗口写一个函数了,具体可以看看github上的代码。

然后在实现side window中值滤波的时候针对移动端想了一个加速方案,因为求中值需要对窗口内元素排序,这里直观上感觉是没什么办法加速的,不过我尝试了一个方案,利用neon指令相对原来提速了不少,有空的话可以写一篇小文章去解释,这里先埋一个彩蛋。

最后看看几组对比结果,看看在迭代10次的情况下,经典box filter 和 side window box filter的结果对比:

熊猫宝宝原图

滤波结果, box filter, iteration = 10

滤波结果, side window box filter, iteration = 10

熊猫宝宝原图+椒盐噪声

去噪结果, box filter, iteration = 10

去噪结果, side window box filter, iteration = 10

然后在迭代10次的情况下,经典中值 filter 和 side window 中值滤波的结果

歼20+椒盐噪声

去噪结果, median filter, iteration = 10

去噪结果, side window median filter, iteration = 10

4. 参考资料

  • https://zhuanlan.zhihu.com/p/58326095
  • https://zhuanlan.zhihu.com/p/64647829

欢迎关注GiantPandaCV, 在这里你将看到独家的深度学习分享,坚持原创,每天分享我们学习到的新鲜知识。( • ̀ω•́ )✧

有对文章相关的问题,或者想要加入交流群,欢迎添加本人微信

本文分享自微信公众号 - GiantPandaCV(BBuf233),作者:梁德澎

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-03-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Deep SORT论文阅读总结

    本文主要讲解Deep SORT论文核心内容,包括状态估计、匹配方法、级联匹配、表观模型等。

    BBuf
  • 目标检测算法之评价标准和常见数据集盘点

    前面只顾着讲算法,讲损失,讲训练参数设置和细节,缺忽视了一个重要的东西,那就是目标检测的评价标准是什么?这一节,我们就来搞懂这个问题。

    BBuf
  • 【AI移动端算法优化】三,移动端arm cpu优化学习笔记之常量阶时间复杂度中值滤波

    该文章C++复现代码:https://github.com/Ldpe2G/ArmNeonOptimization/tree/master/ConstantTim...

    BBuf
  • Side Window Filtering 论文解读和C++实现 转

    不管原来的滤波器保不保边,运用了side-window思想之后,都可以让它变成保边滤波!

    Ldpe2G
  • Side Window Filtering 论文解读和C++实现

    刚开始看到这篇论文的时候,我就很感兴趣想去复现一把看看效果。这篇论文是今年 CVPR oral 且不是深度学习方向的,其核心贡献点就是:不管原来的滤波器保不保边...

    Ldpe2G
  • OpenCV线性滤波(均值滤波,方框滤波,高斯滤波)

    OpenCV中提供了三种常用的线性滤波函数,它们分别是方框滤波,均值滤波和高斯滤波。

    zy010101
  • 详解图像滤波原理及实现!

    图像的实质是一种二维信号,滤波是信号处理中的一个重要概念。在图像处理中,滤波是一常见的技术,它们的原理非常简单,但是其思想却十分值得借鉴,滤波是很多图像算法的前...

    Datawhale
  • Math-Model算法综述

    数学建模主要模型不单独写,参考数学模型第四版教材即可,只给出编程中一些重要的算法目录,如果有方法漏写,请评论区指出,笔者添加,谢谢QAQ

    Pulsar-V
  • 7. 图像处理的应用-运动滤波

    在前面的章节中,我讲了很多图像变换中的基本操作:图像滤波,包括空域滤波和频域的滤波。今天来给大家分享一个非常有意思的图像滤波的应用:运动滤波。这里我们会看到计算...

    HawkWang
  • SAP最佳业务实践:ETO–项目装配(240)-7预先采购

    CNMM预先采购 image.png 必须在项目执行的一开始就执行预先采购。ProMan 用于控制活动。 角色项目经理 后勤 ® 项目系统 ® 物料 ® 执行 ...

    SAP最佳业务实践

扫码关注云+社区

领取腾讯云代金券