专利名称：基于纹理特性的hevc帧内预测模式的快速选择方法及装置的制作方法
技术领域：
本发明涉及视频编解码技术领域，特别涉及一种基于纹理特性的HEVC帧内预测模式的快速选择方法及装置。
背景技术：
HEVC (High Efficiency Video Coding)协议旨在提供一种比当前 H. 264 协议压缩率更高且计算复杂度没有显著增加的高分辨率视频编解码技术。HEVC提出了三种更加高效和富有弹性的视频内容表示单元，包括编码单元(coding unit,⑶)，预测单元(prediction unit, PU),以及传输单兀(transform unit, TU)。其中 F1U 具有最小 4X4，最大64X64五种尺寸。为了适应单元的变化以及提高预测的准确度，HEVC引入了帧内预测方法(Arbitrary Direction Intra, ADI)。该方法定义了多达35种的巾贞内预测模式，并以率失真优化(rate-distortion optimization, RDO)为准则对35种模式进行搜索,从而确定唯一的最优预测模式。由于RDO的计算非常耗时，直接对全部的35种预测模式进行RDO筛选在实现上并不可行。因此，HEVC设计了一种“先粗选后细选(Rough-to-Fine)”的模式选择方案，方案的流程如图I。ADI初始化根据当前I3U的大小，确定当前搜索的预测模式数为35 (Size>8X8)或18 (Size〈=8X8)。模式粗选(Rough mode decision)使用计算量相对较小的哈达马变换,计算每种预测模式的残差变换绝对值(Sum of absolute transformed differences, SATD),从中筛选出若干具有最小SATD值的候选模式。之后对生成的候选模式进行RDO细选(RD0mode decision),计算每个候选模式的RD0,最终确定唯一的预测方向模式。该方案的主要特点是具有较高的编码质量。可是统计结果表明，采用“先粗选后细选”筛选策略后，在HEVC推荐的高性能模式配置和低复杂度模式配置下，帧内预测的模式选择依然分别占用整个编码过程78%和62%的处理时间。可以看出，过多的模式搜索量是使得模式选择成为整个编码系统的效率瓶颈的主要原因。因此，提高编码效率的根本在于在保证编码质量的前提下，尽可能地减少需要搜索的模式方向个数。
发明内容
(一)解决的技术问题过多的模式搜索量使得整个编码系统的模式选择效率低下的问题。(二)技术方案一种基于纹理特性的HEVC帧内预测模式的快速选择方法，所述方法包括A :确定待预测单元I3U的边缘纹理图中每个元素的幅值及方向；B :对方向进行统计，生成纹理方向统计直方图；C :对所述PU的强纹理方向进行判定，当所述具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式；所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。优选地，步骤A中利用最大匹配法确定所述边缘纹理图中每个元素的方向，所述最大匹配法为用定点运算完成所述方向与预测模式方向之间匹配度的运算。
优选地，所述方法进一步包括当所述包含nXn像素，则可得到大小为mXm的幅值表；其中，m=n-l。优选地，步骤B具体包括将所述边缘纹理图中所有方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成纹理方向统计直方图。优选地，所述累加值最大的纹理方向为纹理主方向；生成纹理方向统计直方图时采用相邻方向加权投票机制；所述相邻方向加权投票机制为边缘纹理图中的每个元素将自身幅值向纹理主方向投票的同时，将幅值与加权系数的乘积值投票给纹理主方向的相邻方向。优选地，在步骤C中，当判定不存在所述强纹理方向或者当所述具有强纹理方向但与任一相邻块的预测模式方向不匹配时，则确定最小搜索方向集合。优选地，当纹理方向统计直方图中非零值少于最小搜索方向个数时，则舍弃零值方向，从而得到非零值的模式；对非零值的模式计算SATD值并进行筛选，得到具有最小SATD值的候选模式。优选地，当次小SATD值与最小SATD值的比值超过预定阈值时，则所述最小SATD值对应的模式为最终预测模式。优选地，若次小SATD值与最小SATD值的比值未超过预定阈值，则对所述候选模式进行RDO计算，从而得到最终预测模式。一种基于纹理特性的HEVC帧内预测模式的快速选择装置，所述装置包括纹理幅值计算与方向判定模块，用于计算待预测单元的边缘纹理图中每个元素的幅值和判定所述I3U的边缘纹理图中每个元素的方向；纹理方向统计直方图生成模块，用于根据对所述方向进行统计，生成纹理方向统计直方图；强纹理方向判定模块，用于判定所述是否具有强纹理方向和所述强纹理方向是否与任一相邻块的预测模式方向匹配；当所述具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式； 所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。(三)有益效果本发明通过考察待预测单元的纹理方向分布特征，从全部的待搜索方向集合中筛选出最有可能的一个或几个模式方向，在保证编码质量的前提下，减少了搜索次数，有效降低模式选择的计算时间，显著提高模式选择速度。
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图I为HEVC帧内预测流程图；图2为本发明提供的基于纹理特征的快速模式选择算法流程图；图3为本发明提供的纹理幅值计算与方向判定流程图；图4为本发明提供的纹理方向统计流程图；图5为本发明提供的强纹理方向判定流程图；图6为本发明提供的生成最小搜索方向集合流程图；图7为本发明提供的像素与纹理表元素之间的对应关系图。
具体实施例方式下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。实施例I本发明提出了一种基于纹理特性的HEVC帧内预测模式的快速选择方法，所述方法包括A :确定待预测单元I3U的边缘纹理图中每个元素的幅值及方向；B :对方向进行统计，生成纹理方向统计直方图；C :对所述PU的强纹理方向进行判定，当所述具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式；所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。优选地，步骤A中利用最大匹配法确定所述边缘纹理图中每个元素的方向，所述最大匹配法为用定点运算完成所述方向与预测模式方向之间匹配度的运算。优选地，所述方法进一步包括当所述PU包含ηXη像素，则可得到大小为mXm的幅值表；其中，m=n-l。优选地，步骤B具体包括将所述边缘纹理图中所有方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成纹理方向统计直方图。优选地，所述累加值最大的纹理方向为纹理主方向；生成纹理方向统计直方图时采用相邻方向加权投票机制；所述相邻方向加权投票机制为边缘纹理图中的每个元素将自身幅值向纹理主方向投票的同时，将幅值与加权系数的乘积值投票给纹理主方向的相邻方向。优选地，在步骤C中，当判定不存在所述强纹理方向或者当所述具有强纹理方向但与任一相邻块的预测模式方向不匹配时，则确定最小搜索方向集合。
优选地，当纹理方向统计直方图中非零值少于最小搜索方向个数时，则舍弃零值方向，从而得到非零值的模式；对非零值的模式计算SATD值并进行筛选，得到具有最小SATD值的候选模式。优选地，当次小SATD值与最小SATD值的比值超过预定阈值时，则所述最小SATD值对应的模式为最终预测模式。 优选地，若次小SATD值与最小SATD值的比值未超过预定阈值，则对所述候选模式进行RDO计算，从而得到最终预测模式。实施例2本发明还提出一种更为具体地基于纹理特性的HEVC帧内预测模式的快速选择方 法，其算法实现的总体流程如图2。具体包括纹理幅值计算与方向判定、纹理方向统计直方图生成，强纹理方向判定，生成最小搜索方向集合，以及基于SATD值的模式舍弃等子过程。这些过程能够直接嵌入HEVC原有帧内预测处理流程，不需要改动协议原有的粗选与细选等标准过程的程序代码。算法采用2X2滤波器计算待预测块的边缘纹理图，下面对算法各个子过程的细节进行说明。纹理幅值计算与方向判定该过程输入包含nXn像素的PU，全部的像素以相邻的4个像素为顶点，构成mXm(m=n-l)个最小正方形,对每个正方形按照文献[I]给出方法,计算当前正方形对应的边缘梯度向量G和幅值Amp,从而得到当前PU的幅值表,记为Amp [I :mXm]。即幅值表中的第(i, j)个元素对应第(i，j)个最小正方形，之后的表述遵循此对应关系。对幅值表中的每个元素进行最大匹配判定，并将判定出的模式方向存储在纹理方向表Dir35[l :mXm]中。由于HEVC标准协议规定，当PU的大小为4X4时，预测方向只有18种,在此情况下,纹理方向表只需要对这18种方向进行记录,记为Dirl8[l :mXm]。生成幅值表和纹理方向表中第(i，j)个元素的流程如图3，包括以下步骤I.根据公式(I)分别计算X、Y方向上的幅值分量Dx(i，j) &Dy(i，j)。2.根据公式(I)计算 Amp (i, j)。3.根据公式(3)计算17种匹配值D。4.根据公式(4)、(5)、(6)确定当前元素在33个方向上的匹配值D”5. PU的大小为4X4时,查找协议规定的18种预测方向中的最大匹配值,确定当前元素的模式方向，写入Dirl8(i，j)。PU的大小大于4X4时,查找协议规定的35种预测方向中的最大匹配值,确定当前元素的模式方向，写入Dir35(i，j)。纹理方向统计纹理方向统计是将所有模式方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成预测方向统计直方图，从而确定当前PU的预测方向。其中累加值最大的为纹理主方向。生成纹理方向统计直方图时采用相邻方向加权投票机制，边缘纹理图中的每个元素不仅向最大匹配法检测到的主方向投票自己的幅值，同时将幅值乘以加权系数，投票给主方向的相邻方向。本发明给出加权系数经验值为O. 5。定义纹理方向统计直方图为H[35]，该过程的循环结构如图4所示。纹理表第(i，j)个元素对所属Dir方向以相邻方向加权方式进行幅值投票的实现步骤如下6 .如果 F1U 大于 4X4,投票方向编号 Idx_main=Dir35 (i, j),否则 Idx_main=Dirl8(i, j)。7.按照ADI定义的模式方向顺序,确定主方向的邻居方向Idx_nbr。8.对主方向进行幅值投票H[Idx_main]=H[Idx_main]+Amp (i, j)。9.以O. 5为加权值，向相邻方向加权投票H[Idx_nbr] =H[Idx_nbr] +Amp (i,j) X0. 5。强纹理方向判定定义总幅值能量为TotalAmp,定义当前PU的强纹理方向编号为Idx_strong。当前PU上方邻接块的预测模式方向编号为Idx_Above，左侧邻接块的预测模式方向编号为Idx_Left。如果当前在某一方向的幅值投票值占总幅度值的比值超过预设的阀值，定义该方向为强纹理方向。假设当前方向编号为i，如果当前方向上的幅值能量占总能量的比例超过预定阈值，即进入强纹理方向处理流程，如图5。10.当PU尺寸大于8X8时，经验阈值为O. 25，如果H[i]>0. 25XTotal_Amp，令Idx_strong=i,否则进入生成最小搜索方向集合过程。11.当PU尺寸小于8X8时，经验阈值为O. 125，如果H[i] >0. 125 X Total_Amp，令Idx_strong=i,否则进入生成最小搜索方向集合过程。12.如果强纹理方向存在，且满足(Idx_strong==Idx_Above)&&(Idx_strong〈18)或(Idx_strong==Idx_Left)&&(Idx_strong 彡 18),则将 Idx_strong 确定为最终的模式方向，并直接进入最后的RDO预测方向模式过程。13.否则进入最小搜索方向集合生成过程。生成最小搜索方向集合定义Ref [O 34]为最小搜索方向集合。Ref [i] (O彡i彡34)为I时，表示方向编号为i的模式在最小搜索集合中。粗选过程将只对Ref [O 34]中为I的方向模式进行搜索。HEVC协议要求搜索方向中总是包含DC与Planar模式，因此Ref [O]和Ref [3]初始值总是1，其他方向初始值为O。定义最小搜索方向的个数Num_min，如果PU>8X8，Num_min初始值等于4，否则为8。当方向统计直方图H
中非零值少于Num_min时，算法会降低Num_min的取值以进一步减少搜索方向个数。具体流程如图6。14.去除DC与Planar模式后，按照幅值大小降序排列H
的索引，得到DEC_Idx[O :32]。15.令 s=0, t=0，遍历 DEC_Idx[O 32]。16.如果 t〈Num_min-2，且 H[DEC_Idx[s]]古 0，则将 Ref [O :34]中由 DEC_Idx[s]及其相邻方向指定的数组位，置I。同时s，t均加I17.如果 t〈Num_min-2,且 H[DEC_Idx[s]]=0,则终止遍历。更新 Num_min=s+2。18.如果 t>Num_min-2 结束遍历。基于SATD值的模式舍弃粗选过程通过计算SATD筛选出若干候选模式，细选过程对这些模式进行RDO计算从而确定最终的预测模式，其中，细选过程为HEVC协议的标准过程。本算法通过考察SATD值，在次小SATD_sub与最小SATDjnin的比值超过预定阈值时，直接跳过细选过程并确定最终的模式。具体流程为19.给定经验阈值为 O. 125，如果 SATD_sub>0. 125*SATD_min,则将 SATDjnin 对应的方向模式确定为最终选择模式，并跳过细选过程。20.否则，进入细选过程。相关公式I.算法使用2 X 2滤波器得到的纹理边缘特征，滤波器的公式描述为
= ( , 0Vij)
g^U = (Pi+ij+1 + Pij+i) - (Pi+ij + Pij) Gyij = (pi+1J+1 + pi+1j) - (PU+1 + Pu) { }
Amp(Gij) = I Gx.. j + I Gv,. I其中Gi，j为边缘梯度向量，由水平匕，与竖直^1;两个分量组成，P为像素的灰度值。Amp为梯度向量的幅值。输入当前I3U中任意四个以图7方式相邻的像素，通过公式(I)可以计算出该四个像素构成的最小正方形的边缘梯度向量G和幅值Amp。由此可知，当前PU大小为nXn时，可由公式(I)对应生成大小为mXm (m=n_l)的幅值表。2.最大匹配判定基于公式(2)、(3)、(4)、(5)、(6)。对于由公式(I)生成的幅值表中的任意一个元素，定义Di为该元素在HEVC预定义的35种模式方向上的匹配度值。本算法设计的最大匹配判定不适用35种模式中的DC与Planar，因此本算法将与之对应的Dtl与D3恒置为0，并将DC与Planar补充进生成的最小搜索模式集合。其余的D1, D2及D4 D34，共计33种模式的最大匹配值计算方法由公式(2)给出
(Di = Gy-[R- sin 0t] + Gx ■ [R ■ cos 0 ]
IDmax = Inax(IDiI), i G
, i Ψ 0,3根据HEVC协议标准，公式(2)中的33种模式中的每种模式均对应一个固定的方向角度。因此私的取值为33种模式方向角度值。R为常量，用以提高取整的精确度，在本算法中R取值为128。由于33种模式方向关于的对称性，实际只需要计算17种匹配度绝对值，然后根据Gj^PGy的符号确定Di的实际取值。此外，由于方向角度的固定性，可以预计算出各个方向角度的Wn 0#PCOS 0( ，从而进一步提高算法速度。17种匹配度绝对值的计算方法由公式
(3)给出
权利要求
1.一种基于纹理特性的HEVC帧内预测模式的快速选择方法，其特征在于，所述方法包括 A :确定待预测单元PU的边缘纹理图中每个元素的幅值及方向； B :对方向进行统计，生成纹理方向统计直方图； C :对所述的强纹理方向进行判定，当所述具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式； 所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。
2.根据权利要求I所述的方法，其特征在于，步骤A中利用最大匹配法确定所述边缘纹理图中每个元素的方向，所述最大匹配法为用定点运算完成所述方向与预测模式方向之间匹配度的运算。
3.根据权利要求I或2所述的方法，其特征在于，所述方法进一步包括当所述PU包含nXn像素，则可得到大小为mXm的幅值表；其中，m=n_l。
4.根据权利要求I所述的方法，其特征在于，步骤B具体包括将所述边缘纹理图中所有方向一致的元素的幅值进行累加，通过比较各个方向的累加值，生成纹理方向统计直方图。
5.根据权利要求4所述的方法，其特征在于，所述累加值最大的纹理方向为纹理主方向； 生成纹理方向统计直方图时采用相邻方向加权投票机制； 所述相邻方向加权投票机制为边缘纹理图中的每个元素将自身幅值向纹理主方向投票的同时，将幅值与加权系数的乘积值投票给纹理主方向的相邻方向。
6.根据权利要求I所述的方法，其特征在于，在步骤C中， 当判定不存在所述强纹理方向或者当所述PU具有强纹理方向但与任一相邻块的预测模式方向不匹配时，则确定最小搜索方向集合。
7.根据权利要求6所述的方法，其特征在于， 当纹理方向统计直方图中非零值少于最小搜索方向个数时，则舍弃零值方向，从而得到非零值的模式； 对非零值的模式计算SATD值并进行筛选，得到具有最小SATD值的候选模式。
8.根据权利要求7所述的方法，其特征在于，当次小SATD值与最小SATD值的比值超过预定阈值时，则所述最小SATD值对应的模式为最终预测模式。
9.根据权利要求8所述的方法，其特征在于，若次小SATD值与最小SATD值的比值未超过预定阈值，则对所述候选模式进行RDO计算，从而得到最终预测模式。
10.一种基于纹理特性的HEVC帧内预测模式的快速选择装置，其特征在于，所述装置包括 纹理幅值计算与方向判定模块，用于计算待预测单元PU的边缘纹理图中每个元素的幅值和判定所述I3U的边缘纹理图中每个元素的方向； 纹理方向统计直方图生成模块，用于根据对所述方向进行统计，生成纹理方向统计直方图； 强纹理方向判定模块，用于判定所述PU是否具有强纹理方向和所述强纹理方向是否与任一相邻块的预测模式方向匹配； 当所述PU具有强纹理方向且与任一相邻块的预测模式方向匹配时，则将所述强纹理方向对应的模式作为最终预测模式； 所述强纹理方向为所述PU在任一方向上的幅值能量与所述纹理方向统计直方图中所有方向总幅值的总能量的比值大于预设阈值时的方向。
全文摘要
本发明提供了一种基于纹理特性的HEVC帧内预测模式的快速选择方法及装置，通过确定待预测单元PU的边缘纹理图中每个元素的纹理幅值及纹理方向，生成纹理方向统计直方图，进而对所述PU的强纹理方向进行判定，当所述PU具有强纹理方向且与任一邻接块的预测模式方向匹配时，则将所述强纹理方向作为最终预测模式方向。本发明在保证编码质量的前提下，减少了搜索次数，有效降低模式选择的计算时间，显著提高模式选择速度。
文档编号H04N7/32GK102843559SQ20121033783
公开日2012年12月26日 申请日期2012年9月12日 优先权日2012年9月12日
发明者刘振宇, 陈 光, 汪东升 申请人:清华大学