基于总变差模型的纹理图像中图像主结构的提取方法。

    本文主要由Structure Extraction from Texture via Relative Total Variation一文中的内容翻译而来,作者又是香港中文大学的一批牛人。

      一:问题由来

    很多自然场景和人工艺术品都包含纹理。比如,墙上,火车和地铁表面上的涂鸦和图案。像地毯,毛衣,和其他一些精美的工艺品包含格式各样的几何图案。在人类历史中,马赛克被视为一种艺术形式,它可以表示人和动物这类复杂的场景,并可以用石头,玻璃,陶瓷和其他一些材料模仿油画。当用Google收索这些图像的时候,你可以很快的找到成千上万类似图片。下图展示了一些代表不同形式场景的实例。他们有一个共同的特征:图像中有意义的结构和纹理单元融合在一起。所以我们通常称这类图片为“结构+纹理”图片。一个很有意思的现象:在不去除纹理的前提下,人类的视觉感知系统完全有能力理解这些图像。从心里学角度分析,图像的整体结构特才是人类视觉感知的主要数据,而不是那些个体细节(纹理)。因此从图像中提取那些有意义的结构数据是一项具有意义的工作,同时对于计算机来说也是非常有挑战性的。

        二:算法描述

      在《Structure Extraction from Texture via Relative Total Variation》一文中提出了一种基于总变差形式新模型,该模型可以有效的分解图像中的结构信息和纹理,并且无需特别指定纹理是否规则或者对称。换言之,该方法具有一般性和随意性,它适用于非统一的或各向异性的纹理。下面介绍一下该方法。   

上式为总变差模型, I代表输入图像,p代表2D图像像素的索引,S代表输出结构图像。其中可以写成如下各向异性的形式:

改进的模型如下

其中

    q为以p点为中心的一个正方形区域内所有的像素点的索引,g为高斯核函数:

     下图(a)是一幅包含纹理的图像。(b)则反映了纹理和结构像素点都会产生比较大的D(D值大反应在图像中也就是对应像素点的亮度高);(c)可以看出结构部分中的L(L值大反应在图像中也就是对应像素点的亮度高)值大于纹理部分的L值,造成这种现象的一种直觉上的解释为:在包含在一个局部的小窗口中主要结构往往产生比包含在另一个窗口的复杂纹理具有更多相似方向的梯度。(d)为 (也就是(3)式中的规则项)的映射,而这个规则项让主要结构部分更加突出。(e)则是(a)用式(3)去除纹理后的结构图像。

下面介绍怎么样求解公式(3): 先讨论X方向,Y方向的计算类似。

  公式(9)可以至直接求矩阵的逆运算,或者用预处理共轭梯度法来求解。

三:实验结果

   实验中ε和εs是2个小正值用来避免分母出现0的情况。其中ε固定为0.001. 而εs稍微大点会帮助保持光滑变化的结构部分,通常设定为0.02。公式(5)中的λ是一个不可或缺的权重它用来控制图像的光滑程度,但是仅仅调节它不会使纹理分离太多。而增加λ也会造成图像的模糊并且纹理反而保留下来。 一般λ选取为0.01到0.03之间。图1表示不同迭代步数显示的结果,实验发现该算法3-5步就可以达到收敛状态。

     空间尺度参数σ控制了公式(4)中窗口的大小,它的选取取决于纹理的尺度大小并且在结构纹理分离过程中至关重要,经验的选取σ为0到8之间,图2说明了增强σ可以很好地抑制纹理。并且实验中发现在每一次迭代时成倍的减小,可以起到锐化边缘的效果,同时不会减弱纹理去除的能力.

  当一幅物体的表面包含多重纹理形式或者可以看成非正面方向,纹理单元就可以认为是不同变化尺度的。图2和图3就是这样一类图像。因为在该算法中小于相对于尺度参数 那些纹理都得到了有效的惩罚,所以文章的提出模型可以很好的处理这种类型的图像。当然,如果远处的结构和近处的纹理相似,他们也都会被去除。因为该算法依赖于局部的数据,所以我们不需要认为局部的梯度是各项同性的。只要在一个局部窗口中方向相反的梯度相互抵消,该方法就能生效,而不管梯度模式是不是各项同性的或是异性的。

  图像矢量化就是把一个像素图像转化为一个矢量图。矢量图可以任意的放大和缩小而不会丢失细节部分,然而大多数矢量化的方法都不能表示好的细节部分。由于复杂的纹理模式和局部像素点的不断震荡的普遍存性,矢量化“结构+纹理”这一类图像变的更加困难。观察图8(c)和(e),经典的矢量化软件Vector Magic也不能很好地完成矢量化。在本文中,我们开始先分解纹理和结构,分解的结构图为图8(b),然后矢量化就可以很好地运用了。在矢量化的过程中,结构图像(b)直接被放大。于此同时,纹理图像可以用双线性插值作为一个位图重新被放大。最后合成这两层图像获得图8(f)。相对于传统的方法,该矢量化算法可以产生更好地效果:不丢失边缘和细节信息。

本文的算法还可以用于边缘提取。图9展示了一个例子,该幅图像中包含很明显的前景和背景的纹理,这往往导致边缘提取的失败。图9(b)和(c)使用不同参数的额Canny边缘检测提取的边缘。很明显这样的边缘是不令人满意的。该方法可以先获得好的结构图像(d),然后再检测该结构图像的边缘得到(e)。图(6)说明了一样的道理。

由于源纹理和目标纹理的不兼容性,有时涂鸦图像,油画,和素描不能直接运用到图像融合中。图11和图12就是一个很好的例子。直接将图11(a)和图12(a)融入目标场景中得到图11(c)和图12(e),不难发现融合的图像很不自然。然而将纹理分离后的图11(b)和图12(b)融入相同场景得到的图11(d)和图12(d)却很自然。改组实验说明了本文算法可以很好运用到图像融合中。

四、编程实现

原文件提供了相关算法的matlab代码,可以从这里下载:http://www.cse.cuhk.edu.hk/~leojia/projects/texturesep/tsmoothing.zip

     关于这个源代码,我看了很久的,有很多地方是和文章的公式不是完全对应的,所以研究的时候还是要有所注意。

     一般来说,matlab只适合于科研,如果想做成产品,需要用其他的比如C之类的实现该算法,对于这点,这个程序可能有点困难,主要的困难在于其中的解线性方程组。因为在本算法中,方程组的系数矩阵式一个很大的稀疏矩阵,有多大呢,比如如果图像时500*600的,那么这个矩阵的大小就是300000*300000,因此,直接的实现对于内存等方面肯定不现实,必须研究稀疏矩阵的存储方式,另外,解方程所用的共轭梯度法也不是一下子就能实现的。 目前我的C版本程序还在研究中。

五:说明

       这种论文其实直接看英文的是最好的方式吗,博客中由于编辑、书写等方面的不便,有的时候就是随便表达下,文中有很多翻译和编辑的不当之处,请真正有性却的朋友下载后看英文。

       由于原始论文的大小大于10MB,无法上传,敬请各位有兴趣的朋友在google搜索该论文。

       特别致谢西西网友的大力支持。

*********************************作者: laviewpbt   时间: 2013.10.10    联系QQ:  33184777  转载请保留本行信息************************

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

学界 | 利用人脸图片准确识别年龄:上海大学研究者提出「深度回归森林」

2686
来自专栏机器人网

自动驾驶技术中的机器学习算法有哪些?

如今,机器学习算法正大规模地用于解决自动驾驶汽车产业日益增多的问题。结合 ECU (电子控制单元)传感器数据,我们须加强对机器学习方法的利用以迎接新的挑战。潜在...

872
来自专栏CSDN技术头条

随机森林不可思议的有效性

对于机器学习从业者而言,有自己最喜欢的算法是很常见的。可能这有点不太合乎常理,因为没有一个算法能够完全地主导所有的应用,而且机器学习算法的性能很大程度上依赖于应...

2216
来自专栏iOSDevLog

人工智能-深度学习框架下的神经网络

2396
来自专栏Tencentcloud

几何与学习的交汇点

通常来说,只给出一个2D图像,人类就能够毫不费力地推断出底层场景的丰富3D结构。由于从2D推断3D本身是一个模糊的任务。

1.1K13
来自专栏AI研习社

强化学习实验里到底需要多少个随机种子的严格证明

AI 研习社按:在机器学习和深度强化学习研究中,可重复性成为了最近最为热门、最常被人诟病的话题之一。复现一篇基于强化学习的文章远比想象的难,具体分析可参照《le...

1092
来自专栏华章科技

「知识图谱」领域近期值得读的 6 篇顶会论文

论文 | Hike: A Hybrid Human-Machine Method for Entity Alignmentin Large-Scale Know...

911
来自专栏腾讯移动品质中心TMQ的专栏

米少熬好粥:数据有限时怎样调优深度学习模型

所谓迁移学习,就是将一个问题上训练好的模型通过简单的调整,使其适用一个新的问题,可以认为是一种模型调优的“取巧”方法。可以类比人的举一反三能力。

4353
来自专栏深度学习入门与实践

【深度学习系列】迁移学习Transfer Learning

  在前面的文章中,我们通常是拿到一个任务,譬如图像分类、识别等,搜集好数据后就开始直接用模型进行训练,但是现实情况中,由于设备的局限性、时间的紧迫性等导致我们...

3225
来自专栏目标检测和深度学习

【史上最有趣论文】物体检测经典模型YOLO新升级,就看一眼,速度提升 3 倍!

新智元编译 作者:Joseph Redmon、Ali Farhadi 翻译:肖琴 【新智元导读】你肯定很少见到这样的论文,全文像闲聊一样,不愧是YO...

36115

扫码关注云+社区