腾讯音视频实验室杰出科学家刘杉:我们处于视频编解码标准制定的起点,而非终点。

2017年12月28日,由腾讯社交网络事业群(SNG)主办TSAIC学术&工业交流盛会在腾讯滨海大厦举行,150余位来自麻省理工、斯坦福、卡耐基梅隆、清华、中科院计算机所、微软研究院等海内外知名高校、研究所的学者和研究员受邀出席。

腾讯音视频实验室杰出科学家刘杉作为主讲嘉宾出席此次大会。在会上,她分享了视频编解码领域的核心技术和编解码标准的变迁。她说目前我们所处的阶段应该视为下一代视频编解码标准制定的一个起点,而非终点。在视频编解码方面,我们会持续进行技术研究和标准布局,为用户带来更好的体验。

以下是刘杉演讲全文。

非常高兴也非常荣幸来到这里跟大家做一个分享。我今天分享的主题是“视频编解码和标准化”。

在分享之前,我简单介绍一下我自己。跟刚才两位嘉宾的背景稍稍不一样,我是来自工业界的博士,之前在一些公司工作过,做过研究、也做过产品。如果在座有同学想了解博士在工业界的心路历程,欢迎大家找我分享。

这些年工作的内容主要在视频编解码和传输,也包括前处理,后处理和一些比较宽泛的多媒体相关项目。近几年我们聚焦在视频编解码的标准制定,也是今天我要跟大家分享的一个内容。我是刚刚加入腾讯的音视频实验室。

言归正传,今天分享的主题主要包括两部分,个部分是视频编解码,另一部分是其标准化

最后我会花时间和大家介绍一下我们音视频实验室现有的一些研究成果和场景。

我认为知道为什么要做一件事对任何一个项目来说都是至关重要的。之所以要做视频压缩这件事,因为视频的数据量是非常非常大的,大到什么程度呢?举个简单的例子,有一部两个小时的电影,HD 格式,每秒60帧, 现场有没有视频编解码背景的同学可以告诉大家,这个电影如果不压缩文件会是多大?

(此处有一位同学回答50G)

我们大家一起来做一个快速算术,1980×1080像素每帧,60帧每秒, 2小时就是120分钟,如果不压缩是大约2.7Tera Bytes。那就是说你花大概一百美金买一个移动硬盘可以装这样一部HD电影。那如果我们说价格低要求用SD 格式, 30fps,如果不压缩也需要大约224GBypes. 你的手提电脑大概可以装两部这样不压缩的电影。同样如果不压缩,我们需要传输的带宽是很大的。HD 60fps的视频内容如果不压缩需要大约3Gbps的带宽传输。SD 30fps的视频内容也需要大约250Mbps的带宽。我花了一分钟的时间来做这个数学,是要说明,视频压缩这件事情不是重要的,而是必要的。一件事情如果是必要的,我们就要去做。

为了做视频压缩,我们首先要了解什么是视频。简单讲,视频是一组图片,但是它不是一组随机的图片,而是有运动关系的图片,我们做视频就要抓住两个点,运动关系和图片。

基于这两个基本点视频压缩技术可以大体分为两类,一类是针对图片压缩的,比如chroma sub-sampling, transform,quantization, 熵编码等,另外一类是针对运动关系的,比如运动估计、运动补偿和一些相关技术。

下面我们一起对这些基本技术做一个快速简单回顾。第一个是chroma sub-sampling,我们把图片从RGB转换到 YUV然后对色度做一个sub-sampling,从YUV444 到 YUV420. 这件事对博士来说完全没有什么技术含量,但是我们立刻可以节省一半的数据带宽。

下面这个有一点技术含量了,是transform。Transform是把信息从空域转移到频域,以达到decorrelation, energy compaction的目的。我们在视频编解码里面最常用的是DCT,最近的标准里面也开始引入了DST。还有其他的一些还在探讨之中。

Transform 之后是quantization,右上角是一个举例的quantization matrix,左下角是一个举例的 coefficientmatrix. 我们用coefficients 除以 quantization系数就得到右下角这个quantized coefficient matrix.。我们做压缩的看到这个会很兴奋,因为我们看到很多很多的0,然后我们会用一个遍历,比如 zig-zag, 来调整这些数字的顺序。看到调整后的数据我们会更加高兴了,因为有更多连续的0,这是为下一步做准备。下一步是Entropy Coding,是一种无损压缩方式,可以把文件压缩的更小。

刚才快速分享了几种针对图像压缩的技术,从这些技术我们可以有一个最简单的图像压缩的架构图,这张图是就是最简单的JPEG编码器架构图。

我们又回到刚才讲的什么是视频,视频就是运动关系和图片。图片方面我们已经讲了,下面我们要看一下运动关系这部分。这里有一个简单的例子。这是一个视频里面的三帧。我们可以看到它们之间有很明显的相关性。视频时域压缩技术就是要找到相邻或相近图片的相关性从而去除时域上的冗余度。为了更好的利用图片之间的时域相关性,我们引入运动补偿。而我们真正在做视频编解码的时候,不像很多领域那样做的会去做object detection, segmentation等等,在主流的视频编解码解决方案或标准里面我们还是用块状的方式,所以对于运动补偿方面有很多相关技术,比如说预测单元的划分,运动矢量本身的预测和编解码等等。我们真正在标准制定的时候,关于运动补偿的这一大块,通常都是划分成很多个技术分组来具体讨论它相关的各个技术子级和细节。

有了这些主要的图片压缩和处理运动关系的技术模块,我们就可以得到一个简单的视频编码器示意图和一个简单的视频解码器的示意图。

刚才给大家看的是最简单的video codec block diagram,大概是MPEG-2之前的编解码器状态。经过这二三十年的演变和进化,现在video codec已经变得复杂了很多,有更多模块,也有更多技术细节。这是近期HEVC/H.265的Video Encoder,待会儿我会再详细讲这个标准。

花了几分钟时间,在座各位已经是视频编解码的专家了,我们可以进入下一个内容,视频压缩标准。

在讨论视频压缩标准的一开始,我们仍然要问Why? 为什么要做这件事。道理也很简单,压缩过的视频是不可读的binarized bitstream, 从某种角度讲,压缩如同加密。如果没有一个大家都公认的协议或者密码本这样的东西,Apple压缩的视频内容就没有办法被Orange解压缩。所以为了让世界上任何以个厂家,产品或App压缩的视频内容可以被任何其他人解压缩和播放,我们就需要全世界人民都接受的标准。

标准,尤其是国际标准就不是一个人、两个人都说了算的东西,它需要有标准组织根据严格的流程来制定。有两个历史比较悠久的国际标准组织,其中第一个是ITU,在它下面有一个工作组是VCEG,它在ITU下面负责研究视频编解码的技术和制定标准。第二个标准组织是ISO/IEC JTC1, 在他下面有一个工作组是MPEG,负责是在ISO/IEC下面研发视频编解码的技术和制定相关标准。大约两年前一些公司联合发起了一个新的标准组织AOM,致力于制定不收费的视频编解码标准。还有一个标准组织我没有写,但是我觉得也是非常重要的,AVS,是我们国内的标准组织。近些年AVS做得越来越好、越来越强大,现在是完全不可忽视的一个力量。

这张表格里列出从过去到现在的视频编解码标准,我们可以看到,早在1984年ITU已经制定了第一个标准,H.120,因为比较早,可能现在周围熟悉它的人不多。到1990年推出了H.261,这个已经是被大家广泛使用的。1993年ISO/IEC推出了MPEG-1Part2 VCD用的就是这个格式。在1995年出了H.262/MPEG-2Part 2,这个标准是ISO/IEC和ITU两个组织共同制定的。我不知道在座多少同学用过DVD,DVD这个格式我们小时候用了很久,DVD这个格式就是用了MPEG-2,数字电视广播在很长时间里也是用的MPEG-2 Part2知道今天很多数字电视广播还在用MPEG-2。到2003年有了H.264/AVC,像Blu-ray,HD-DVD这些格式都是用这个标准,很多新的电视节目也都是开使用H.264,还有OTT。又过了大概十来年,我们推出了H.265/HEVC标准。无论是从MPGE-2到H.264还是从H.264到H.265,我们通常认为的每两代重要标准都做到了压缩率翻倍。

下面花一点时间讲一下HEVC。HEVC在2007年左右开始预研,到2010年初CfP,之后经历了两三年全世界的公司,大学,研究机构一起努力,在2013年出台了Version1,包括 main, main10, main still pictureprofiles。2014年出版了Version2, 包括RExt, SHVC, Multiview。2015年出版了Version3加入3D。2016年出了Version4,也是HEVC的最后一个版本,包括之前的所有内容并加入Screen Content Coding。制定标准是一个蛮艰苦的过程,不过努力的工作一般来说回报都是不错的,HEVC今年获得了第69届的艾美工程奖,我也非常荣幸受邀参加了这个盛会。必须指出的是,虽然参加艾美奖活动的人只有十几个,但是这套标准的制定积累了上千个工程师和科学家、研发人员的努力。

那我们一起来看一下HEVC是怎么在前一代标准的基础上做到加倍压缩的。这里是一个H.264的 Block Diagram,H.265在此基础上对每个模块都做了很多改进,引入了新的技术甚至是新的模块。由于今天时间有限不太会讲的很具体,因为每一个技术又是一个新的讲座。

首先关于编码和预测单元的划分。做过264的同学都知道,H.264里面用的是 macroblock的单元结构。在265里面我们用了更大,更多种,更flexible的单元划分方式,并且它是recursive的; 在inter prediction 方面,我们也做了不少新技术,包括更多形状和大小的预测单元,Merge mode, AMVP, 新的DCT based 插值滤波器等等。在帧内预测方面,对比264里面9个luma intramodes, 4个chroma intra modes, 265用了35个预测模式对luma,其中包含33个方向性预测模式和DC mode, Planar mode;为了更有效的压缩,35个预测模式的压缩方法也比264做了更新;在transform 方面,除了变换模块可以更大,变换模式也在 DCT之上引入DST,并且是根据预测模式进行切换;同时 scan order也更flexible, 引入vertical sca, horizontal scan, 并根据预测模式进行切换;在环路滤波器方面,除了对deblocking filter进行改进还引入了一个新的环路滤波器SAO。还有很多技术,今天因为时间关系只能浮光掠影地讲一下。有兴趣的同学欢迎线下找我讨论技术细节。

这张图是一个265和264 压缩效率的比较。我们可以看到在所有的测试序列和测试条件下,平均来说265比264的压缩效率提升了35-40%BD-rate。如果单单把HD 测试序列拿出来看,265比264的压缩效率提升可以到40-45%。我们做视频、视觉或者图像的同学都知道,数据是一回事,主官感受也是非常重要的。我们也请了专门的人做主管测试,结果是对于HD 测试序列265比264可以提升67%,对于 SD 测试序列265比264 仍然可以提升49%。这些数据都显示265对比264达到了一个压缩翻倍的目标。

做标准的人是永远不会停下来的,标准这个事情是一代一代可以一直做下去的。对于下一代标准(还没有正式名字,暂时称“266“)的预研大概在2013年、2014年很多公司就开始了,2015年10月的时候,ISO/IEC、ITU这两个相爱相杀这么多年的组织决定一起来做下一代标准,成立了JVET。又过了两年时间的共同研究,在今年十月标准组织发了正式的CfP,明年初全球的公司、学校、科研人员又会带着他们的解决方案来一起讨论,在未来两三年时间里面我们又会很努力的工作,争取在2020年底完成下一代标准的制定。

刚才讲我们对”H.266”已经做了很多预言,这张图展示的是现在已经公开的一些编解码工具。把这些工具放在一起,我们看到对于4K和2K的情况,我们已经有35%的 coding gain。这给了我们一定的信心可以努力去做出下一个压缩翻倍的标准。需要指出的是,这是一个起点,不是一个终点,在未来两三年里面,我们会进一步把coding gain的数值增大,把编解码复杂度降低,带给大家更好的体验。

这大概就是我今天分享的关于视频编解码和国际标准的浮光掠影的简单介绍。

下面我用简单一两分钟时间介绍一下我们音视频实验室的一些其他成果和场景,也让大家感受一下我们实验室除了做充满数据的编解码之外还有一些可能更有趣的工作。

比如降噪,比如低照度处理,比如视频超分,等等。因为我们要落地产品,所以我们的算法实质性要求很高。比如说这个任意目标跟踪组件,它可以跟踪一个移动很快的物体,当物体旋转、颜色有改变,或者是被部分遮挡住的时候也不会丢失。在iPhone 7+ 上测试是每秒一百帧的速度。我们的TPG组件提供了一套完整的图像压缩解决方案,被用于QQ空间,QQ浏览器,腾讯手机管家,腾讯新闻,腾讯体育,天天快报等多款公司产品。

另外我们实验室在语音方面也有很强的技术积累,一些成果比如回声抵消,降噪,变声,3D音效等等,欢迎同学们下午到我们音视频实验室分论坛进行深度技术交流和体验demo.

我们也在探索跟AI相关的课题,AI语音降噪和分离,包括AI的语音美化。我们不仅只美化样子,还要美化声音,这是全方位的美化。还有AI辅助的音视频的质量评估,流控,DL辅助视频编解码等等。

以上是今天一个简单的分享,非常感谢大家。

刘杉个人简介:

刘杉本科毕业于清华大学电子工程系,硕士和博士毕业于美国南加州大学电机工程系,现任音视频实验室杰出科学家。刘杉加入腾讯之前,曾任华为美国多媒体实验室主任兼视频标准首席科学家和全球项目负责人;在此之前担任联发科美国视频和视觉技术开发部主任。

在联发科任职期间,组建联发科美国多媒体标准团队并帮助公司实现了在视频编解码和系统等标准领域从零到一的突破。作为主要发明人和联合发明人的50余篇技术提案被ITU-T H.265 | ISO / IEC HEVC,MPEG-DASH, OMAF, MMT 等国际标准采纳。于2013年荣获联发科最高荣誉研发金奖以表彰在标准领域对公司的贡献。

在此之前还曾担任MERL主任研究员、IBM客座研究员、索尼资深算法工程师等职。她曾多次担任标准组织技术分组与专家小组的主席和联席主席,并多次在国际顶级学术会议担任领域主席、论文评审委员或做邀请报告。发表了超过 30 篇专业期刊和会议论文,是超过 200 个美国和全球专利申请的发明人,其中许多发明已被授权并成为标准基本专利或被内置于多款通信和多媒体产品中。是ITU-T H.265 | ISO / IEC HEVC V4(定稿版本)七位主编之一。

原文发布于微信公众号 - 腾讯音视频实验室(TencentAVLab)

原文发表时间:2017-12-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

iTunes热门排行榜算法的数据分析

几天前,我发表了一篇文章——深度分析苹果公司的iTunes免费app热门排行榜的算法、促进、排名操纵和算法故障。 下面是文章概述: ? 2014年10月29号和...

3926
来自专栏小文博客

掌握这些简历小技巧,找工作并不难

1783
来自专栏IT大咖说

小米:VR产业中Android的现状与挑战

1563
来自专栏玉树芝兰

数据科学如何助力科研?

硬件平台、软件环境和算法模型的一站式支持,可以让各学科的研究都能从数据科学的发展获益。

1163
来自专栏腾讯高校合作

【犀牛鸟·视野】现场报道 | SIGGRAPH Asia 2017 (DAY 1):AR/VR让空间变得更智能

SIGGRAPH(Special Interest Group for Computer GRAPHICS)是由ACM SIGGRAPH(美国计算机协会计算机图...

37310
来自专栏玉树芝兰

你到底该信谁?

2016年,微信覆盖人口超过了8个亿,这意味着什么?意味着我们被刷屏的几率越来越高了。

861
来自专栏牛客网

从IBM到京东成都研究院(含IBM笔面试过程和京东面试记录)

我目前大四,某二本院校的地理相关专业的学生(非科班),前天刚刚收到京东成都研究院的实习生offer,一路走来,确实太多的不容易,在这儿给大家分享一下我最近一年的...

5066
来自专栏华章科技

购物篮分析:绝不只是“啤酒与尿布”!

之前的两篇实用性文章《网购评论是真是假?文本挖掘告诉你》和《大数据助力东北小吃铺满血复活》发表之后,许多读者表示对其中的“购物篮分析”很感兴趣,希望我们能多做介...

1816
来自专栏专知

机器学习应用的未来是什么?微型化

【导读】数据科学家,Jetpac 公司CTO Pete Warden发表了一篇博文,详细阐述了微型化是机器学习应用的一条出路,并且相信机器学习可以在微小的、低功...

1703
来自专栏量子位

吴恩达《机器学习训练秘籍》完整中文版,现在可免费下载 | 资源

吴恩达老师把网红新书《Machine Learning Yearning》的完整中文版也放出来了。

1192

扫码关注云+社区

领取腾讯云代金券