一种基于pu纹理特性的hevc帧内快速模式决策算法
【技术领域】
[0001] 本发明涉及数字视频通信领域，尤其涉及一种基于TO纹理特性的HEVC帧内快速 模式决策算法。
【背景技术】
[0002] 近30年来，伴随着互联网的发展、视频源数据急剧增加，人们对视频分辨率和 视频质量的要求不断提高，促使国际标准组织于2010年开始制定新一代视频编码标准 HEVC(High Efficiency Video Coding)。
[0003]HEVC与上一代视频编码标准H. 264 -样都是采用混合编码结构，即预测编码、变 换编码和熵编码，但ffiVC更注重对高清、超高清视频编码的压缩性能以及并行处理，引入 了许多先进的、高效的编码工具和技术。比如，灵活的块分割方式、帧间预测模式一Merge模 式、35种帧内预测模式、样点自适应偏移（SAO,SampleAdaptiveOffset)等。这些新的编 码工具使得ffiVC能够提供编码效率高于H. 264两倍的视频码流。在2013年1月，VCEG和 MPEG正式将HEVC确定为新一代视频标准。因此有理由相信，在不久的将来，HEVC将会成为 应用最为广泛的视频标准。
[0004] 但是显著提高编码效率的同时，相较于H. 264,HEVC也极大地增加了编码的复杂 度，尤其是多变的块分割导致的模式选择复杂度大幅度提高。由此可知，寻找一种算法来优 化模式选择是降低ffiVC编码复杂度的一种有效的方法。
[0005] 下面内容为现有算法的HEVC帧内模式决策过程的概述：
[0006] HEVC提供了 35种帧内预测模式，即33种角度预测模式、Planar模式和DC模式， 如图1所示。现有的技术是通过四个程序来得到每个TO(预测单元）的最佳预测模式，如 图2所示。首先，通过RMD(RoughModeDecision，粗模式决策）遍历35种预测模式，根据 式（1)得到Jemd，即各模式低复杂度的RDCost(RateDistortionCost，率失真代价），并根 据PU的尺寸选取不同个数的候选模式，即当PU尺寸大于8X8时，选取小的前3个模 式作为当前TO的RD0初始候选模式集；当PU尺寸小于或等于8X8时，选取J_最小的前 8个模式作为当前PU的RD0初始候选模式集；其次，进行MPMs(MostProbableModes，最有 可能模式）选择，即判断当前TO的RD0初始候选模式集中是否包含当前PU左邻近或上邻 近PU的最佳预测模式，若不包含，则更新RD0的初始候选模式集，即将不包含的模式添加到 RD0初始候选模式集中，若包含，则不做任何处理；然后，将RD0初始候选模式集的模式在最 大TU尺寸上进行RDO(RateDistortionOptimization，率失真优化），即根据式（2)计算 出相应模式的RDCost，即，将最小的模式作为当前PU的最佳预测模式；最后，对最 佳预测模式进行RQT(ResidualQuad-TreeTranstform，残差四叉树变换），即以⑶为根对 残差块进行四叉树分割，来得到最佳TU分割。
[0007]J_=SATD+入 pred Rpred (1)
[0008]Jed〇 -(SSELuma+0.57 ?SSEchr〇ma) + 入m〇de?Rm〇de (2)
[0009] 式（1)中，SATD表示残差信息Hadamard变换系数绝对值之和，人pred表示拉格朗 日乘子，RPMd表示编码预测模式信息所需的比特数；
[0010] 式⑵中，SSEtaa和SSEaMa分别表示亮度与色度的原始图像与预测图像差的平 方和，表示拉格朗日乘子，Rm(xte表示编码候选模式的总比特数。
[0011] 本发明是对四个程序中的第一个程序进行改进，第一个程序中要通过RMD(R〇Ugh ModeDecision，粗模式决策）遍历35种预测模式，并计算】_;而本发明无需对35种预测 模式都进行计算，这样能有效地节省时间，实现ffiVC编码器的实时应用。
【发明内容】
[0012] 本发明要解决的技术问题，在于提供一种基于TO纹理特性的HEVC帧内快速模式 决策算法，是一种适用于帧内简单且高效的快速模式决策算法，本发明是对四步法中的第 一个步骤进行改进，有助于实现HEVC编码器的实时应用。
[0013] 本发明是这样实现的：
[0014] -种基于TO纹理特性的HEVC帧内快速模式决策算法，包括四个程序，其中第一步 程序的具体步骤如下：
[0015] 步骤1、读入一个计算当前PU的MADPU并自行设定邻近模式H ;
[0016] 步骤2、根据MADPU的大小确定第一角度模式集A ;
[0017] 步骤3、计算第一角度模式集A中模式的J_值，根据MAD 大小和PU的尺寸大 小选取中心模式，并确定第二角度模式集；
[0018] 步骤4、在第二角度模式集中加入模式0和模式1，设定Planar模式为模式0、DC 模式为模式1、33种角度预测模式为模式2至模式34,形成第三角度模式集；
[0019] 步骤5、对第三角度模式集中的模式进行RMD，根据PU的尺寸大小选取不同个数的 模式作为RD0初始候选模式集。
[0020] 进一步地，所述步骤1进一步具体为：
[0021] 步骤11、读入一个PU，根据式子：
【主权项】
1. 一种基于TO纹理特性的HEVC帧内快速模式决策算法，包括四个程序，其特征在于： 第一步程序的具体步骤如下： 步骤1、读入一个计算当前PU的MADPU并自行设定邻近模式H; 步骤2、根据MADPU的大小确定第一角度模式集A; 步骤3、计算第一角度模式集A中模式的J_值，根据MAD 大小和PU的尺寸大小选 取中心模式，并确定第二角度模式集； 步骤4、在第二角度模式集中加入模式0和模式1，设定Planar模式为模式0、DC模式 为模式1、33种角度预测模式为模式2至模式34,形成第三角度模式集； 步骤5、对第三角度模式集中的模式进行RMD，根据PU的尺寸大小选取不同个数的模式 作为RDO初始候选模式集。
2. 根据权利要求1所述的一种基于TO纹理特性的HEVC帧内快速模式决策算法，其特 征在于：所述步骤1进一步具体为： 步骤11、读入一个根据式子：
计算MADPU，利用麻01>11来刻画各PU的纹理特性；其中，MADPU表示均值绝对偏差，p(i，j) 表示TO中位于（i，j)的像素值，ave表示PU中所有像素的均值，M、N分别表示PU的行数 和列数； 步骤12、根据MADPU的大小范围值对各PU进行分类，分类如下： MADPU< 4,PU的纹理情况为平稳； 4〈MADPU< 8,PU的纹理情况为半平稳； MADPU>8,PU的纹理情况为非平稳； 步骤13、根据式子：H彡|I-J| (2<K34且JS34且I、J不相等）来定义邻近 模式H，其中I表示模式I，J表示模式J;定义模式0和模式1不存在邻近模式，同时定义当 模式I为2、邻近模式H为1时，模式J为模式34和模式3。
3. 根据权利要求2所述的一种基于PU纹理特性的HEVC帧内快速模式决策算法，其特 征在于：所述步骤2进一步具体为： 步骤21、当PU的纹理情况为平稳时，设置第一角度模式集为： A= {2, 10, 18, 26}; 步骤22、当PU的纹理情况为半平稳时，设置第一角度模式集为： A= {2, 6, 10, 14, 18, 22, 26, 30}; 步骤23、当PU的纹理情况为非平稳时，设置第一角度模式集为： A= {2, 4, 6, 8, 10, 12, 14, 16, 18, 20, 22, 24, 26, 28, 30, 32}。
4. 根据权利要求3所述的一种基于PU纹理特性的HEVC帧内快速模式决策算法，其特 征在于：所述步骤3进一步具体为： 步骤31、当PU的纹理情况为平稳时，总是选取第一角度模式集中J_最小的模式作为 中心模式，将该中心模式作为模式I、将4作为邻近模式H，来计算模式J，此时模式J有8种 情况，再将该模式J作为第二角度模式集； 步骤32、当PU的纹理情况为半平稳且PU的尺寸大于8X8时，选取第一角度模式集中Jrmd最小的模式作为中心模式；当PU的纹理情况为半平稳且PU的尺寸小于或等于8X8时， 选取第一角度模式集中最小与次小的模式作为中心模式，将该中心模式分别作为模式 I、将2作为邻近模式H，来计算模式J，此时每个模式I对应的模式J均有4种情况，再将该 模式J作为第二角度模式集； 步骤33、当PU的纹理情况为非平稳且PU的尺寸大于8X8时，选取第一角度模式集中Jem)最小与次小的模式作为中心模式；当TO的纹理情况为非平稳且PU的尺寸小于或等于 8X8时，选取第一角度模式集中J_最小、次小与第三小的模式作为中心模式，将该中心模 式分别作为模式I、将1作为邻近模式H，来计算模式J，此时每个模式I对应的模式J均有 2种情况，再将该模式J作为第二角度模式集。
【专利摘要】本发明提供一种基于PU纹理特性的HEVC帧内快速模式决策算法，包括四个程序，其中第一步程序的具体步骤有：1、读入一个PU，计算PU的MADPU并自行设定邻近模式H；2、根据MADPU的大小确定第一角度模式集；3、计算第一角度模式集中模式的JRMD值，根据MADPU的大小和PU的尺寸大小选取中心模式，并确定第二角度模式集；4、在第二角度模式集中加入模式0和模式1，形成第三角度模式集；5、对第三角度模式集中的模式进行RMD，根据PU的尺寸大小选取不同个数的模式作为RDO初始候选模式集。本发明能有效地降低HEVC帧内编码的复杂度，有利于HEVC编码器的实时应用。
【IPC分类】H04N19-61, H04N19-11
【公开号】CN104618726
【申请号】CN201410848196
【发明人】冯桂, 吴良堤
【申请人】华侨大学
【公开日】2015年5月13日
【申请日】2014年12月31日