H.264编码格式简单分析

　　H.264的重要性不再提了。本文主要记录一下H.264的编码格式。H.264官方文档：https://github.com/jiayayao/DataSheet/tree/master/encode-decode/h264。

　　H.264从层次来看分为两层：视频编码层（VCL， Video Coding Layer）和网络提取层（NAL，Network Abstraction Layer）。VCL输出的是原始数据比特流（SODB，String of data bits），表示H.264的语法元素编码完成后的实际的原始二进制码流。SODB通常不能保证字节对齐,故需要补齐为原始字节序列负荷（RBSP，Raw Byte Sequence Payload）。NAL层实际上就是最终输出的H.264码流，它是由一个个NALU组成的，每个NALU包括一组对应于视频编码数据的NAL头信息和一个原始字节序列负荷（RBSP，Raw Byte Sequence Payload）。以上名词之间的关系如下：

RBSP = SODB + RBSP trailing bits
NALU = NAL header(1 byte) + RBSP
H.264 = Start Code Prefix(3 bytes) + NALU + Start Code Prefix(3 bytes) + NALU +…

　　所以H.264码流的结构如下：

　　每个NALU之间由起始码（Start Code Prefix）分隔，起始码分为两种：0x000001(3 bytes) or 0x00000001(4 bytes). 如果NALU 对应的Slice 为一帧的开始，则用4 字节表示，即0x00000001；否则用3 字节表示，0x000001.NALU针对起始码设计了防止冲突机制，如果出现连续的0x000000，0x000001,0x000002,0x000003时，会在两个0之间插入03，如下：

0x00 00 00 -> 0x00 00 03 00
0x00 00 01 -> 0x00 00 03 01
0x00 00 02 -> 0x00 00 03 02
0x00 00 03 -> 0x00 00 03 03

　　一个NALU就是编码后的一帧数据。NAL header是一个字节：

　　forbidden_zero_bit(1 bit) 禁止位，等于0；

　　nal_ref_idc(2 bit)指示当前NAL的优先级，取值范围为0~3，值越高，表示当前NAL越重要。H.264规定，如果当前NAL是序列参数集，或是图像参数等，该值必须大于0.比如nal_unit_type等于5时，nal_ref_idc大于0；nal_unit_type等于6,9,10,11或12时，nal_ref_idc等于0；

　　nal_unit_type表示当前NALU的类型，表格如下：

　　nal_unit_type=5时，表示当前NAL是IDR图像的一个片，此时，IDR图像中的每个片的nal_unit_type都应该等于5.

　　一般H.264原始码流是以SPS->PPS->SEI->IDR->SCLICE->SCLICE…开头的。

　　GOP即Group of picture(图像组)，指两个I帧之间的距离。即几秒有一个关键帧。一般在2、3秒之间。

　　H.264有两种封装格式：

　　（1）annexb模式：传统模式，使用start code来分隔NAL， SPS和PPS是在ES流的头部；

Annex-B: startCode Nalu1, startCode Nalu2......startCode NaluN

　　（2）mp4模式：没有start code，使用NALU长度（固定字节，通常为4个字节）来分隔NAL。AVCodecContext的extradata内部保存着分隔的字节数，SPS和PPS；

mp4(AVCC): NaluLength Nalu1, LaluLength Lalu2, ......NaluLength NaluN

　　SPS的头部是0x67，PPS的头部是0x68，要保持对数据的敏感性。

　　当解码器性能不足需要丢帧时，nal_ref_idc可以作为判断能否丢帧的依据。如果nal_ref_idc为0，则可以丢弃。当该帧nal_unit_type等于6,9,10,11或12时，nal_ref_idc为0。部分非IDR帧的nal_ref_idc也为0，也可以丢弃。丢弃的同时也能保证不会花屏。

　　附：

　　leixiaohua的H.264分析器，本人在此基础上做了大量注释，方便理解H.264:https://github.com/jiayayao/h264_analysis。