一种hevc帧内预测模式选择加速方法
【技术领域】
[0001]本发明涉及高性能视频编码(High Efficiency Video Coding，HE VC)领域，特别涉及在编码中帧内模式选择的技术。
【背景技术】
[0002]数字视频已经成为我们日常生活中不可或缺的一部分。随着网络和视频采集技术的快速发展，超高清视频服务已经成为了未来数字视频的发展趋势。为了更好地满足超高清视频服务的需求，动态图像专家组(Moving Picture Experts Group，MPEG)和视频编码联合组(Joint Collaborative Team on Video Coding，JCT-VC)联合推出了新的视频压缩标准——高效率视频编码(High Efficiency Video Coding，HEVC)。作为 ITU-T H.264/MPEG-4AVC的继任者，HEVC采用了许多新的编码技术，可以在相同的视频质量的情况下相对于前任节省一半的码字。由于采用了许多新的技术，编码器的复杂度大大增加，这样使得实时编码的实现变得越发困难，所以减小编码器的复杂度是HEVC的重要研宄领域。
[0003]HEVC为了提高帧内编码的压缩性能，将帧内预测方向的个数增加到35，0和I模式分别为DC和Planar模式，其余的2?35模式为角模式，这大大增加了帧内模式选择的计算复杂度。为了减少这一部分的复杂度，现有的HEVC所采取的技术为:对于一个预测单元(Predict1n Unit，PU)，首先进行的是简单的粗模式选择(Rough Mode Decis1n，RMD)。RMD采用阿达马变换(Hadamard Transform)来计算各个模式的率失真代价。RMD将35种模式按照率失真代价由小到大排列。其中，编码器会根据PU的大小来选择RDO备选模式，对于64x64，32x32，16x16大小的PU单元，RMD选出代价最小的3个模式作为RDO备选模式，对于8x8和4x4大小的PU单元，RMD选出代价最小的8个模式作为RDO备选模式，这些备选模式将被存储在备选列表中。RMD结束后，最有可能模式(Most Probable Mode，MPM)将检查当前上方和左侧的已选出的最优模式是否在备选模式列表中，如果上方或左侧的最优模式不在备选模式列表中，则将其加入列表中，具体做法可参考文献I (参见L.Zhao, L.Zhang, S.Ma, and D.Zhao, “Fast mode decis1n algorithm for intra predict1n inHEVC, ”in Proc.1n Proc.VCIP 2011, pp.1-4.)。在接下来的率失真优化(Rate-distort1noptimizat1n, RD0)阶段将采用编码所使用的离散余弦/正弦变换(Discrete Cosine/Sine Transform，DCT/DST)对所有备选模式计算率失真代价。RDO阶段率失真代价最小的模式即是最终的最优模式。确定最优模式之后，残差四叉树变换(Residual Quadtreetransform, RQT)会根据选出的最优模式对I3U进行变换编码。除了 HEVC已有的快速帧内模式选择技术外，也有一些其他的方法。例如文献2 (参见M.Zhang, C.Zhao, and J.Xu, “Anadaptive fast intra mode decis1n in HEVC, ^in Proc.1CIP 2012, pp.221-224.)通过RMD选出的备选模式分布中来推测当前预测块的纹理特征。该技术对16x16，32x32大小的PU和8x8，4x4大小的PU需要两种不同的处理方案，而且对于8x8和4x4大小的PU需要对RMD选出的前四个备选模式进行分析，并通过判断是否存在DC或Planar模式，以及第一备选角模式和第二备选角模式是否相邻来推断该PU的纹理特征，而且该技术没有利用RMD选出的备选模式和MPM之间的关系所反映的相邻I3U的纹理一致性。
【发明内容】
[0004]本发明的目的在于提供一种HEVC帧内预测模式选择加速方法。
[0005]为达到上述目的，本发明的解决方案是:首先重点考虑空间相邻PU与当前PU的纹理一致性。利用纹理一致性这一特征，对于RMD选取的第一模式在MPM中的预测单元，跳过RDO过程，直接设置该模式为RDO最优模式。其次，再利用RMD选取的前两个模式反映出来的PU内的纹理特征，通过判断是否RMD选取的前两个模式都为DC或Planar模式，或都为角模式，对RMD选取的第一模式不在MPM中的预测单元进一步分成平坦块、具有一定方向的纹理块，无明确方向的复杂纹理块三种情况分别进行模式选择加速。
[0006]本发明充分挖掘了 RMD和MPM所反映的预测单元和相邻已编码预测单元的纹理一致性以及预测单元内的纹理特性，可以有效减少帧内模式选择中RDO预测模式选择过程的复杂度。
[0007]本发明利用MPM所反映的当前预测单元相邻PU的纹理特征，以及RMD选出的第一个备选模式所反映的当前I3U的纹理特征，将MPM和RMD结合起来推测当前I3U与相邻PU是否纹理一致。一致性的准则定义为:若第一个备选模式在MPM中，那么就认为当前和相邻PU是纹理一致的。对于和相邻I3U具有纹理一致性的预测单元，RMD第一个备选模式将作为当前预测单元RDO的最优模式。
[0008]对于依照上述一致性准则被判断为和相邻纹理不一致的预测单元，本发明将利用RMD选出的前两个备选模式推测当前PU纹理特征，并依照如下准则将预测单元分为三类:
[0009](I)若当前预测单元RMD所得的第一和第二备选模式都为DC或Planar模式，则该PU为平坦块；
[0010](2)若当前预测单元RMD所得的第一和第二备选模式都为角模式，则该为具有一定方向的纹理块；
[0011 ] (3)若当前预测单元RMD所得的第一和第二备选模式不都为DC或Planar模式，也不都为角模式，则该PU为没有明确方向的复杂纹理块。
[0012]对于第一类预测单元，其RDO的备选模式只包括DC和Planar模式，其他模式可以从备选列表中去除。对于第二类预测单元，其RDO的备选模式只包括RMD所得的前三个备选模式和MPM，其它模式可以从备选列表中去除。对于第三类预测单元，其RDO的备选模式只包括RMD所得的前二个备选模式和MPM，其他模式可以从备选列表中去除。为此，本发明技术方案的实施步骤为:
[0013]步骤1:进行当前预测单元的RMD和MPM。
[0014]步骤2:检查RMD选出的第一备选模式是否在MPM中。若RMD选出的第一备选模式在MPM中，则该预测和相邻的已编码单元具有相似的纹理特征，直接将该模式设为RDO最优模式，跳过RDO过程。
[0015]步骤3:对于RMD选出的第一备选模式不在MPM中的预测单元，检查RMD选出的前两个备选模式是否都是DC或Planar模式。若RMD选出的前两个备选模式都是DC或Planar模式，则该预测是平坦块，其RDO只检查DC和Planar两个备选模式，其他角模式可以从备选模式列表中去除。
[0016]步骤3:对于RMD选出的第一备选模式不在MPM中，且RMD选出的前两个备选模式不都是DC或Planar模式的预测单元，检查RMD选出的前两个备选模式是否都是角度模式。若RMD选出的前两个备选模式都是角度模式，则该预测单元是具有一定方向的纹理块，RDO将只检查RMD选出的前三个备选模式和MPM，其他模式可以从备选模式列表中去除。
[0017]步骤4:对于RMD选出的第一备选模式不在MPM中，且RMD选出的前两个备选模式不都是DC或Planar模式，也不都是角模式的预测单元，则该预测单元是没有明确方向的复杂纹