学界 | 纽约大学提出端到端优化图像压缩方法,全面超越JPEG 2000 | ICLR 2017

AI科技评论按:ICLR 2017 将于4月24-26日在法国土伦举行,届时AI科技评论的编辑们也将前往法国带来一线报道。在这个深度学习会议举办之前,AI科技评论也将围绕会议议程及论文介绍展开一系列的覆盖和专题报道,敬请期待。

数据压缩是一种基础工程问题,在数据存储和有限容量信道传输中有重要的应用。图像作为一种信息载体,数据量巨大,因此研究者们对图像压缩的研究从未停止过。在ICLR 2017会议上,来自纽约大学的Johannes Balle 等研究者提出了一种端到端优化的图像压缩方法,并发表了论文:《End-to-End Optimized Image Compression》。这种方法包含了三个过程,分别是:非线性分析变换,均匀量化器,以及非线性合成变换。这些变换是在卷积线性滤波器和非线性激活函数的三个连续阶段中构建的。通过一组测试图像,该方法的表现通常比标准JPEG和JPEG 2000压缩方法有更好的rate-distortion性能。更重要的是,在所有比特率的所有图像中,该方法都实现了显著的视觉上质量的提升,这点也被客观的质量评测方法MS-SSIM证明。

该论文将会在2017年4月24号在ICLR会议上作为第一个Contributed talk讨论。以下为AI科技评论据论文内容进行的部分编译。

论文摘要

数据压缩是一种被充分研究的基础工程问题,通常是为具有最小熵的给定离散数据集设计编码。解决方案很大程度上依赖于数据概率结构的知识,因此问题与概率源建模密切相关。然而,由于所有的实际编码一定具有有限的熵,连续值的数据(例如图像像素强度的向量)必须被量化为离散的值,这就会导致误差。在有损压缩问题下,必须权衡两种损失:离散化表示的熵(rate,压缩率)和量化导致的误差(distortion,失真)。不同的压缩应用场景,比如数据存储或者有限容量信道传输,需要不同的压缩率与失真的权衡。

同时优化压缩率和失真是困难的。在没有额外的约束的情况下,在高维空间进行最优量化是很棘手的。由于这个原因,目前大多数的图像压缩方法将数据向量线性的变换成适当的连续值表示,独立量化各个元素,然后使用无损熵编码对所得到的离散表示进行编码。,由于变换起到的至关重要的作用,这种方法被称为变换编码(transform coding)例如JPEG在分块像素上使用了离散余弦变换,JPEG 2000使用了多种尺度的正交小波分解。

研究人员基于非线性变换开发了一种端到端优化图片压缩的架构(如下图所示)。这是一种通用的非线性变换编码架构。一个图像向量x,通过一个参数化的分析变换y=ga(x;Φ),映射到编码空间(code space)中。这个表示被量化,产生一个离散值的向量q,接下来q被压缩。而重建压缩图像则与之相反。对于其中的分析变换,研究人员使用了基于级联的线性卷积层和非线性层的更灵活的变换,来优化均方误差(mean squared error,MSE)。值得注意的是,研究者使用了generalized divisive normalization(GND)联合非线性层,这对高斯图像密度是很有效的,这是由生物视觉系统神经元所启发的。

论文结果展示:

论文中,研究人员将他们的方法与两个标准方法JPEG和JPEG 2000进行对比。得到结果如下:

下面是上图图像亮度分量的rate-distortion曲线,左侧是感知质量,由多尺度结构相似性度量(MS-SSIM)。右侧是峰值信噪比。

下图为三种比特率下的图像压缩。从上到下分别是JPEG,论文中的方法,JPEG 2000,从左到右,比特率一步步增大。

论文中的方法相较于未压缩的原图细节较少,细节纹理和图案大部分被消除了,但是保留了轮廓的平滑性以及边缘的锐度,使得图像拥有自然的感观。相比之下,JPEG和JPEG 2000有明显的人工痕迹,这也是所有线性变换编码方法的问题:由于局部特征(边缘,轮廓,纹理元素等)是由局部线性基函数的组合表示的,变换系数的独立标量量化导致这些组合不平衡,导致在视觉上反映出潜在的基函数,即图像混叠和振铃现象。

值得注意的是,该论文中的方法在所有测试图像和所有比特率上,都有可察觉的优势。上图中显示了从高到低比特率的过程。随着比特率的降低,JPEG和JPEG 2000通过粗化线性基函数系数的精度来降低其对原始图像的近似,因此暴露出这些基函数的视觉上的外观。另一方面,论文中的方法逐渐简化了轮廓和其他图像特征,有效隐藏了表示底层的量化。

ICLR评论

ICLR委员会最终决定

评价:这是我们接受的论文中最好的两篇之一,我推荐它作为oral presentation。审稿人对这个主题相当的谨慎,并进行了深入的了解。

决定:接受(Oral)

非常好的论文

打分:9 分:在全部入选论文中排名Top 15%,强烈推荐

评论:这是我目前为止读过的使用深度神经网络进行图像压缩的最有说服力的论文。这篇文章写得非常好,客观评估中的rate-distortion理论非常好的契合了这个架构。该文章将结果于一个合理的基准进行对比(JPEG 2000,先前的文章仅仅与JPEG进行对比)。我希望这篇文章能够有更深远的影响。

希望能加入该方法在Lena/Barbare/Baboon图像上的结果,并且与更多的效果最好的经典方法进行对比。能够清晰地表现出神经网络方法与先前最好地方法之间的不同是至关重要的。从目前提交版本的论文看来,我仍然不知道这两个范畴的方法哪个更好。

有极好的性能,但是缺乏细节

打分:8分:在全部入选论文中排名Top 50%,确定接收

评论:本文将rate-distortion优化的方法拓展到深度编码器和解码器,并从简单的熵编码方法拓展到自适应熵编码。此外,本文还讨论了该方法和变分自动编码器之间的关系。

由于rete-distortion优化的方法已经被出版过,这次递交的文章的新颖性并不是非常高。在某些方面上,这篇文章甚至有退步,由于早期的工作是对perceptual metric进行优化,而这里使用的是MSE。然而,结果很明显的优于JPEG 2000,我并不知道目前有哪种其他的学习编码器能够达到这种层次的性能。这篇文章写得非常好。

官方评论

打分:8分:在全部入选论文中排名Top 50%,确定接收

评论:这是一篇很好的文章,它展示了一种端到端训练的图像压缩和解压系统,相比于目前的图像压缩算法(例如JPEG-2000)实现了更好的压缩比和质量之间的权衡。除了展示了深度学习在新应用下的效率,该论文的一个关键性贡献是一种差分形式的“rate”函数,作者展示了它可以被用来有效的训练不同的rate-distortion权衡。我希望这种方法不仅仅应用在图像压缩方面发挥影响,一些其他的差分近似方法可能都会从中受益。

一个很好的文章,使用了有趣的前提,一些新颖的方法,得到了很好的结果

打分:8分:在全部入选论文中排名Top 50%,明确接受

评论:这个写得很好的文章提供了一种端到端学习的方法进行图像压缩。通过优化rate-distortion性能,该方法能够通过自然图像数据集上的优化实现高效的图像压缩。

由于方法很有趣,结果吸引人,分析很透彻,因此我推荐接受这篇论文。

想要深入了解该论文中的方法的,请参考原论文:End-to-end Optimized Image Compression

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-04-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

AAAI 2018 | 腾讯AI Lab现场陈述论文:训练L1稀疏模型的象限性消极下降算法

2707
来自专栏SIGAI学习与实践平台

【SIGAI综述】行人检测算法

行人检测是计算机视觉中的经典问题,也是长期以来难以解决的问题。和人脸检测问题相比,由于人体的姿态复杂,变形更大,附着物和遮挡等问题更严重,因此准确的检测处于各种...

712
来自专栏AI研习社

模型不收敛,训练速度慢,如何才能改善 GAN 的性能?

作为 GAN 系列的一部分,本文探讨了如何改进 GAN 的方法。 尤其在如下方面,

1224
来自专栏机器之心

ECCV 2018 | 旷视科技提出GridFace:通过学习局部单应变换实现人脸校正

论文名称:《GridFace: Face Rectification via Learning Local Homography Transformations...

543
来自专栏新智元

Graph 卷积神经网络:概述、样例及最新进展

【新智元导读】Graph Convolutional Network(GCN)是直接作用于图的卷积神经网络,GCN 允许对结构化数据进行端到端的学习,也即输入可...

5499
来自专栏新智元

CNN实现“读脑术”,成功解码人脑视觉活动,准确率超50%

【新智元导读】研究人员开发出以人脑为模型的深度学习算法,来破解人类大脑。相关研究发表在最新一期Cerebral Cortex,研究人员构建了一个大脑如何解码信息...

2937
来自专栏SIGAI学习与实践平台

关于感受野的总结

感受野是卷积神经网络里面最重要的概念之一,为了更好地理解卷积神经网络结构,甚至自己设计卷积神经网络,对于感受野的理解是必备的。

1772
来自专栏新智元

【Hinton实验室探访】Capsule后最新研究,用软决策树更好理解DNN分类

来源:NYT,arXiv 编译:闻菲、刘小芹 【新智元导读】《纽约时报》今日发文,记者走访Hinton在多伦多的实验室,为我们带来Hinton新作“Capsul...

2265
来自专栏AI科技评论

学界 | 一言不合就想斗图?快用深度学习帮你生成表情包

AI科技评论按:斯坦福大学的两个学生 Abel L Peirson V 和 Meltem Tolunay 发表了自己的 CS224n 结业论文—— 用深度神经网...

1085
来自专栏新智元

复旦、清华和英特尔中国研究院ICCV新作:完全脱离预训练模型的目标检测方法

【新智元导读】复旦大学、清华大学和英特尔中国研究院合作提出的一种新型的目标检测方法 (DSOD) ,能够在完全脱离预训练模型的情况下,使用有限训练数据,达到st...

2493

扫描关注云+社区