【摄像头与成像】长文详解RAW图的来龙去脉

本文承接上一篇《数字成像系统概述》,将继续延伸数字成像系统的相关概念,但在延伸之前需要详细了解作为整个系统输入的Raw图。

作者 | Tony

编辑 | 言有三

本篇文章主要详细阐述Raw图作为整个数字成像系统的输入源到底是怎样产生的,包括一些基本概念和知识,总结了工业界对于Raw的一些检测手段以及检测标准,最后从摄影学角度分析Raw图作为摄影素材的优势。

1 Raw图的诞生及衍生的基本概念

玩过摄影的人对于Raw图这种类型的数据格式应该不陌生。对于资深摄影玩家说,一般会采用Photoshop等软件对Raw图进行调色、降噪、构图等处理,以期获得更好的图像效果质量。但是什么是Raw图呢?

顾名思义,英文单词Raw意思是原始的、未处理的,其表征了纯粹的未处理的一堆数据,为何这里说是一堆数据而不是图像呢?读过上篇《数字成像系统概述》的朋友一定对于CMOS、CCD或者sensor等名词有些印象,实际上Raw图记录的就是CMOS或者CCD图像传感器将捕捉到的光源(光子)信号转化为数字信号的原始数据

一个数字成像系统或者说数码相机采用点阵形式来记录光信号(光子)落到每个阵列“腔体”的大小,这里的腔体即像素,而这个点阵就是sensor,如下所示为一个比较形象的感光阵列(Sensor)接受光子示意图:

其中黄色小圆球代表光子大小,下面为光电转换矩阵。当按下拍照快门的那一刻,摄像头的曝光就被锁定,进入这个sensor的光子量的多少也就被锁定了,通过统计进入sensor矩阵的光子多少就可以确定电信号强度。

此处需要引入一个衡量电信号强度大小的概念——“比特深度(bit depth)”,bit depth描述了传感器硬件能处理数据的精细程度,越深的bit意味着更好的感光效应,即可以获取更多的数据量,而又由于传感器腔体(像素)接受的是电子的数量,意味着bit数据表示灰度值的大小。比如一个16bit的模组意味着65536的灰度范围,8bit模组即表示2的8次幂即256,256这个数字在冈萨雷斯的《数字图像处理》教材经常出现,就是这么得来的。而工业界描述一个模组感光性能的一个专用名词是bits per pixel,也有bits per channel,但有时都混淆叫做bpp。这两个是不同的概念,一个用来描述单像素点感光能力,后面的是表示三原色RGB单一通道的颜色表达能力,这是需要区分清楚的,总结有如下公式:

如下为单通道不同比特深度对应的颜色表征对比:

上图为单通道24比特,下图为单通道8比特。从上述图像可以看出来更深的bit有着更强的颜色表征能力,所以说bit深度对于raw图的大小是一个很重要的衡量指标,其甚至被应用在音频领域表示音阶的广度,我们可以推断出钢琴的bit深度一定大于吉他,因为钢琴所能表达的音域比较广(此处如有不专业欢迎拍砖)。

回到Raw诞生上来,我们知道Raw是光电转换的结果,其无非就是一个灰度信号记录器。我们知道光由RGB三种基色组成,那么问题来了:怎样区分每个像素对于每个颜色通道(R channel, G channel, B channel)获取的量的多少?

为了获取各通道颜色分量,可以考虑给每个像素上面叠放一个颜色过滤器,即每个像素可以让相应的颜色分量通过,而丢弃掉不需要的颜色分量,如下图所示:

但每个像素点需要对于丢弃的颜色分量进行“估计”,以完成单像素点全部颜色分量的构建,构建算法在后面会有介绍。

已有的典型颜色Pattern很多,如:RGBE filter,CYGM filter,Bayer filter等,其中工业界应用比较多的是Bayer滤波器。

典型的Bayer矩阵如下所示:

从上图来看,绿色明显多于红色和蓝色,这是因为BAYER矩阵实际上仿照了人眼对于绿色比较敏感的特点,绿色比红色和蓝色多会进一步降低噪声并可以让图像有更好的细节呈现。与全色Sensor采集相比,BAYER矩阵这种排列模式,可以有效减少到全色Sensor的1/3,这样大大减少了成本和面积。

关于视觉和颜色的关系读者有兴趣可以进一步Google深入学习[2]。将上述BAYER PATTER叠加到Sensor后的RAW图如下所示:

一般BAYER格式分为GBRG、GRBG、BGGR、RGGB四种模式。如下所示:

上文提到采用Bayer Pattern之后,每个像素点需要对于丢弃的颜色分量进行“估计”,以完成单像素点全部RGB颜色分量的构建,关于构建的算法称为Demosaicing算法。Demosaicing算法很多,但基本都是通过插值算法来实现每个像素点的RGB值计算。

Bayer格式插值有插值红蓝算法和插值绿值两种。可以了解[1]的博客插值算法讲解以及论文[2]的插值算法讲解。需要提及的是,插值算法容易导致图像出现失真,甚至出现摩尔纹。

上面字幕就是由于demosaicing’算法导致的Aliasing(混叠)和artifacts(伪像),这些现象直接在Raw层级就大大降低了图像质量。故好的demosaicing’算法设计的目标是增加解析度、减少噪声、颜色准确度高、并能减少摩尔纹。

2 工业界Raw图检测方式和标准

Raw图的检测实际上是对sensor的检测。从上面分析我们看到RAW图的诞生实际上是CMOS或CCD这些可以记录光线的半导体产生的记录数据。以CMOS为例,其主要是利用硅和锗这两种元素所做成的半导体,使其在CMOS上共存着带N(带–电)和P(带+电)级的半导体,这就是典型的PN节,有兴趣的同学可以去查阅工程光学方面的内容,这两个互补效应所产生的电流即可被处理芯片纪录和解读成影像。如下为一个典型的CMOS物理结构图像:

从物理结构图发现,由于CMOS传感器集成度高,光电传感元件与电路之间距离很近,相互之间的光、电、磁干扰较为严重,导致产生的噪声对图象质量影响很大,同时由于各个模组厂工艺水平不一致,需要对于供应的摄像头的Raw图有一套验收标准。

需要区分的是,Raw图实际上分为两大类即Sensor Raw和手机Raw,如下为两种Raw图的产生路径:

上图对于摄像头单纯的增加驱动点亮形成Sensor Raw,而下图是将模组与手机主板组合在一起并驱动点亮形成手机Raw或者称为整机Raw。两种Raw图实际上从产生机理来说都是一样的,区别就在于影响因素的不同。Sensor Raw是单纯的摄像头形成的Raw图,而从产品完整性角度来说,手机作为最终需要呈现给消费者的产品,需要考虑其他因素对于整体成像的影响,比如LENS、组装方式、电源、射频等对于图像质量的影响,故一般来说都是对整机的Raw图进行相应的测试,整机Raw测试总结如下表:

效果质量评测需要相应的测试设备,包括光源、图卡以及测试软件等装备,同时需要制定各个公司自有的测试标准。光源一般采用爱色丽灯箱,爱色丽标准光源对色灯箱SpectraLight QC包括3种D光、荧光以及A光、H光等多种光源,是一款能在日光和其他照明条件下对大小物品进行精准色彩视觉评估的对色灯箱。除此之外,SpectraLight QC标准光源对色灯箱可帮助色彩作业人员减少因不良品和返工造成的人为错误和浪费,缩短上市时间,在提高整体产品质量等方面发挥重要作用。对于颜色、噪声、亮度等不同的测试项,一般的测试图卡选用爱色丽X-RITE ColorChecker Chart 24色卡等各种测试图卡。

如下为部分需要的测试图卡展示:

当对Raw图进行了相应的测试后还需要对最后的成像JPG进行相应的测试,以便于遵循全流程的质量测试,其中包括:

解析力测试、SFR测试、色彩还原测试、Shading测试、白平衡测试、灰阶测试、畸变测试,缺陷像素测试等等多项测试,最后需要将相应的测试图片送入相应的测试软件如Imatest等进行图像质量分析,以满足相应的交付要求。

所以工业界对于Raw图的测试可以认为是对于整体图像成像各个环节都进行了测试,包括RAW图、JPG图等,其工作量还是比较大的,相应的产生了硬件测试工程师这个岗位。

3 Raw在摄影中的优势

现在手机摄像头拍照不需要了解太多颜色知识、构图理论、光圈知识等就可以拍出一副还不错照片,但是如果说要随手一拍就是大片则有点言过其实。毕竟传统手机ISP PIPELINE有其固有的一些缺陷,这在下一篇文章会有分析与介绍。如果说一个人有处女座这种追求完美的情节,对于摄影领域无法回避的素材便是RAW图。

前面已经说到Raw实际就是一个数据包,数据包本身不包含色彩、噪声等信息,而唯一影响这堆数据的就是前期设置的感光度、光圈、曝光时间。换句话说,除曝光之外,一切都可以后期修饰。总结下来Raw格式有以下优势:

1.没有白平衡的前期干扰,对于色调和色温等都是后期可以调的;

2.无损画质,用尽了所有的数据空间。从前面的分析可见,RAW数据量非常大,其可以表示的色域也非常丰富,那么图像就比较高清,层次是非常细腻;

3. 可轻微纠正曝光量。后期调整宽度比较大,可以做正负4倍的调整;

4.扩展最大色彩空间。Raw格式有目前最大的Photoshop 的RGB色彩空间,可以物尽其用;

5.可以解决照片色彩、构图、紫边、影调等常见问题且非常方便;

当然Raw图由于数据量大,其存储也不方便,且由于Raw只是一种数据记录,不同相机产生的Raw文件是不同的,导致没有一个通用软件可以打开Raw文件,如果说要通过Raw图生成具有艺术气息的照片,则需要一定的技术和艺术功底,这也需要一定的磨练和浸泡才能成为真正的摄影大师。

4 小结

Raw图是一种最原始的数据记录格式。本文从Raw的生成、工业界Raw图的检测方式及标准,Raw图在摄影学的优势进行了比较详细的介绍。值得一提的是目前业界以深度学习为代表的视觉研究甚至直接以Raw图作为原始素材进行基于神经网络的计算成像和计算摄影,故了解Raw图是后续各种交叉性研究的基石。

[1] https://www.cnblogs.com/qiqibaby/p/5267566.html

[2] Sony Corporation. Realization of natural color reproduction in Digital Still Cameras, closer to the natural sight perception of the human eye. [Online]. 2003 [cited 2007 May 23];

[3] Adaptive Homogeneity-Directed Demosaicing Algorithm - Hauptseminar im Sommersemester 2007 Medizinische Bildverarbeitung

[4] https://www.xrite.cn/categories/light-booths/

总结

这篇文章对于Raw图生成进行了详细介绍,包括工业界目前比较成熟的Raw图检测方式和标准,并最后对Raw图在摄影学上的优势大致进行了介绍。希望对于读者深入研究数字成像领域有所借鉴,下一期的任务将继续延此路线进一步展开。

下期预告:raw图到最后成像的前世今生

原文发布于微信公众号 - 有三AI(yanyousan_ai)

原文发表时间:2019-09-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券