专利名称::一种低复杂度的帧内预测模式选择方法
技术领域:
:本发明属于视频信息压缩领域,具体涉及一种低复杂度的帧内预测模式选择方法。
背景技术:
:目前的高级^L频编码标准中都包含了帧内预测功能,利用临近块的样本点作外推来实现对当前块的预测,以更好的消除单帧图像内的空间冗余,这样只需要对预测块和当前块的残差进行编码。尤其是在变化平坦的区域,利用帧内预测可以大大的降低码率。当一个宏块是采用帧内模式编码时,利用先前已经编码并重构的块构造一个预测块P。对于亮度分量,可以为每个块或者宏块创建预测块P。例如H.264编码标准中4x4亮度块共有9种可选模式,16x16亮度块有4种可选模式。如图l所示,在H.264标准中,利用相邻块中已经解码的13个样本点(AL和Q)中的几个或者所有的点,来预测当前4x4亮度块中的样本点(ap)。选择9种预测模式中效果最好的一种,作为该块的最佳预测模式。9种预测模式包括模式2的均值预测(DC—PRED)和如图2所示的8种方向预测。对每一个4x4块的预测模式都进行编码需要占用很多比特,适当的利用空间相邻块的相关性,可以达到高效编码的目的。如图3所示,C是当前的4x4亮度块,根据A块和B块预测模式的不同组合得到C块的一个最可能的预测模式。将得到的最可能的预测模式与前述C块的最佳预测模式相比较,如果相同,则只需在编码时使用1个比特表示最可能的预测模式,否则只需发送3个比特表示剩余8种预测模式中最佳的一个。在传统的做法中,使用9种模式的全搜索方法来找到最优的一种预测模式,主要的步骤如下所示1、根据一种模式构造出4x4的预测块P;2、计算原始块与预测块P之间的绝对误差和6;3、计算开销值c叫6=,16+磁,(1)&4"16=土^>">0—(2)x=0产0其中,义(2巧是量化因子w的指数函数,2尸根据不同的标准,取值不同;A(w)用于调整预测模式在输出码流中所占的比例,e尸越大,预测模式所占比例越高;s(x,y)与s'(x,y)分别表示原始点和预测点,x、y为其坐标值;根据相邻块对当前块预测,得到当前块的最可能预测模式,R用来区别是否为最可能预测模式,当前模式是最可能的预测模式时及=0,其他8种情况下i=l;4、重复l-3步,从9种预测方式中选择0^16值最小的一个,即为最佳的预测模式。虽然这种全搜索方法可以找到最佳的预测模式,但是它的计算量非常大,是帧内和帧间编码中耗时很多的一部分。专利CN200410006340/>开的方法,通过计算^f寺编码宏块的紋理特征,然后根据紋理特征中的紋理方向选出最优的预测模式。这种方法需要进行宏块紋理分析,如灰度梯度法、傅立叶频谱分析法等,计算复杂度较高,不利于系统后期的平台优化。专利CN200480006978公开的方法,通过计算帧内编码块的边缘方向信息,然后进行最优预测模式的选择。这种方法需要确定块内所有象素的边缘矢量的幅值和角度,为每一个象素计算边缘方向直方图,计算量很大,实用性不高。
发明内容有鉴于此,本发明的主要目的在于提供一种实用性强,计算简便的低复杂度的帧内预测模式选择方法。为达到上述目的,本发明的技术方案是这样实现的一种低复杂度的帧内预测模式选择方法,在当前块中取表征紋理特征的两组样本点,根据相邻块的开销值,计算阈值,该方法包括以下步骤A、判断当前块是否处于图像帧的特殊位置,如果是,计算该特殊位置下的最优预测模式并输出,结束计算;如果不是,进入步骤B;B、计算当前块在最可能预测模式下的开销值,如果小于阈值,则输出该模式,结束计算;反之,进入步骤C;C、选择所有非最可能的预测模式中开销值最小的一个,作为临时最优预测模式;D、比较最可能预测模式与临时最优预测模式的开销值,选择其中较小的作为最优预测模式输出。步骤A中特殊位置是指,当前块处于图像帧的最左上方、最上方或最左方。步骤A所述计算该特殊位置下的最优预测模式分三种情况当前块位于图像帧最左上方,最优预测模式为2;当前块在图像帧的最上方,计算在模式l、模式2和模式8下,所述两组样本点的开销值,选择开销值最小的模式作为当前块的最优预测模式;当前块在图像帧的最左方,计算在模式0、模式2、模式3和模式7下,所述两组样本点的开销值,选择开销值最小的模式作为当前块的最优预测模式。步骤C中计算临时最优预测模式开销值的步骤包括Cl、计算所有非最可能的预测模式下第一组样本点的绝对误差和,绝对误差和最小的模式,记为临时最优预测模式Mi左方的模式为M2,Mj右方的模式为M3;C2、判断模式2是否为最可能的预测模式,如果是,记M4为空,进入步骤C4;否则,记模式2为M4,进入步骤C3;C3、判断M2是否为最可能的预测模式,如果是,重新记M2左方的模式为M2,进入步骤C4;否则,判断M3是否为最可能的预测模式,如果是,重新记M3右方的4莫式为M3,进入步骤C4;C4、分别计算模式MpM2、M3和M4的第二组样本点的绝对误差和,并与相应的第一组样本点得绝对误差和相加,得到各模式的绝对误差和,选择绝对误差和最小的模式作为临时最优预测模式,进入步骤D。根据图像块的紋理特征,两组样本点包含的点数相同或不同。所述方法适用于最小块为4x4的图像帧。本发明通过选取特征点代替整个数据块,在对视频编码质量没有明显影响的情况下,显著降低帧内预测模式选择的计算量,提高视频编码的实时性。图1为4x4块预测样本点示意图2为4x4块预测的8种预测方向示意图3为相邻块A、B、C关系图4是本发明所述方法的流程图。具体实施例方式本发明的主要思想是从简化开销值(Cost)的计算函数和减少需要验证的模式数两方面入手,对帧内预测模式选择进行处理。通常一个4x4的亮度块具有的细节较少,紋理结构是比较平滑的,这样就可以通过减少4x4亮度块中需要计算的样本点数目来简化Cost值计算函数。另外,在基于4x4亮度块的帧内预测中,最优的预测模式通常与次优的预测模式具有相似的方向;并且当QP很大时(比如40),其他模式中的罚因子4人(QP)将会增大,所以最可能的预测模式通常就是最优的预测模式;特别的,在图像内容非常混杂的区域,任何一种预测模式都不可能达到很好的预测效果。以图1所示的4x4块为例,本方法的当前块(C块)预测的主要步骤如下步骤l:在当前块中取表征紋理特征的两组样本点。取当前4x4块中的e、f、g、h、m、n、o和p作为第一组样本点,a、b、c、d、i、j、k和l作为第二组样本点。在计算Cost值时就采用公式Co《=+(3)其中,SADn是利用每一组中的n个样本点计算得到的绝对误差和,R和人(QP)与等式(1)中的含义相同。上述两组才羊本点CosW和Costn2的和,记为Costm;SADnl和SADm的和,记为SADm。步骤2:判断当前块是否处于图像帧的特殊位置,如果是,计算该位置下的最优预测模式并输出,退出计算;如果不是,进入步骤3。所谓图像帧的特殊位置是指当前块处于图像帧的最左上方、最上方或最左方。其中,图像帧最左上方的预测模式为2;如果当前块在图像帧的最上方,则在模式l、模式2和模式8下,计算上述两组样本点的C0Stm值,选择C0Stm值最小的一个模式作为当前块的最优预测模式,并退出计算;如果当前块在图像帧的最左方,则在模式0、模式2、模式3和模式7下,计算上述两组样本点的C0Stm值,选择C0Stm值最小的一个模式作为当前块的最优预测模式,并退出计算。如果当前块不是处于图像帧的特殊位置,则进入步骤3。步骤3:根据相邻块的Costm值,计算阈值T。相邻块位置如图3所示,每个块计算之后都会保存其C0Stm值,从中读取A块、B块的Costm值。根据A块、B块的特征预测C块,得到C块的最可能预测模式,记录该模式。如果最可能的预测模式就是最优预测模式,则C块与A块或B块具有相似的紋理结构,即C块的预测残差与A块或B块的预测残差应该十分接近。再将罚因子人(QP)的作用考虑在内,将阈值T设定为7=min(Co、,Co《s)+尊)(4)其中,CostmA是A块的Costm值,CostmB是B块的Costm值,人(QP)与等式(1)中的含义相同。步骤4:计算C块在最可能的预测模式下的CosU值,记为CostmC。此时,R=0,根据(1)式,CostmC=SADm。如果Costmc的结果小于阈值T,那么就把它作为当前4x4亮度块的最优预测模式,退出计算,将最可能的预测模式作为最终的结果输出;否则说明最可能的预测模式不能像预测A块或B块的良好效果一样来预测C块,就必须在其他的8种预测模式中进行挑选,进入步骤5。步骤5:通过计算其他8种模式下第一组样本点的SADnl,选出临时最优预测模式及其左右模式。除了最可能的预测模式外,其他预测模式在计算Costn值时都要受到罚因子X(QP)的相同制约,所以在比较其他8种预测才莫式的预测效果时,可以先不考虑罚因子的影响。由于模式2与方向性无关,需要单独考虑,将计算得到的模式与模式2、最可能预测模式综合比较,得到临时最优预测模式及其左右模式。具体步骤如下步骤501:计算所有非最可能的预测模式下第一组样本点的SADnl,得到SADm值最小的一个模式,记为临时最优预测模式MbMi左方的模式记为M2,M!右方的模式记为M3。各种模式的左右关系如表1所示。<table>tableseeoriginaldocumentpage9</column></row><table>表1步骤502:因为模式2与方向性无关,表l中无法体现,所以在计算中单独考虑,用M4表示模式2与最可能预测模式的关系,判断模式2是否为最可能的预测模式,如果是,记M4为空,进入步骤6;否则,记模式2为M4,进入步骤503。步骤503:判断M2是否为最可能的预测模式,如果是,重新记M2左方的模式为M2,进入步骤6;否则,判断M3是否为最可能的预测模式,如果是,重新记M3右方的模式为M3,进入步骤6。步骤6:分别计算在步骤5中得到的预测模式MpM2、M3和M4的第二组样本点的SADn2值,并与其各自的第一组样本点得SADnl值相加,选择SADm值最小的一个作为新的临时最优预测模式,计算得到它的CosW值,记为C0StmM,进入步骤7。步骤7:比较C0StmC和C0StmM,选择其中较小的一个作为最优预测模式输出。如果二者相等,说明图像的方向细节已经发生了变化,此时临时最优预测模式的预测效果要优于最可能的预测模式。这时选择临时最优预测模式作为最终的最优预测;漠式,那么对于后续右方和下方的块具有更佳的预测效果。在全搜索方法下为了找到最优预测模式,每个4x4块需要计算16x9=144个样本点的Cost值。而实施例中的快速搜索方法最好的情况是只需要计算步骤1~4,即最可能的预测模式下16个点的Cost值。经实验发现,当QP值增大时,只计算最可能预测模式的概率也随之增大。例如在QP=16时约为30%,QP=31时增大为50%,QP=48时最大接近80%。最差的情况是步骤5中需要计算模式2,Cost值的样本点总数为(16*1)+(8*8)+(8*4)=112可以看出即使在最差的情况下,实施例中的快速模式搜索方法还是节省了32个样本点的计算量,使得预测模式选择的时间效率提高20%左右。步骤1中,两组样本点包含的点数可以不同,根据图像块的紋理特征,选取最能表征紋理特征的点,作为样本点。步骤3中阈值T的选取至关重要如果T较小,则不能有效的减少需要计算的预测模式数;否则,较容易选择最可能的预测模式作为最终的结果,不能有效的找到当前块的最佳预测模式。一般的,在图像内容比较复杂的区域,可以适当的增大T的值;否则,应该减小T的值。另外,T的选择与QP值的大小也有关系当QP较大时,预测误差较大,则应该适当的增大T的值;否则,应该减小T的值。以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。权利要求1、一种低复杂度的帧内预测模式选择方法,其特征在于,在当前块中取表征纹理特征的两组样本点,根据相邻块的开销值,计算阈值,该方法包括以下步骤A、判断当前块是否处于图像帧的特殊位置,如果是,计算该特殊位置下的最优预测模式并输出,结束计算;如果不是,进入步骤B;B、计算当前块在最可能预测模式下的开销值,如果小于阈值,则输出该模式,结束计算;反之,进入步骤C;C、选择所有非最可能的预测模式中开销值最小的一个,作为临时最优预测模式;D、比较最可能预测模式与临时最优预测模式的开销值,选择其中较小的作为最优预测模式输出。2、根据权利要求1所述的低复杂度的帧内预测模式选择方法,其特征在于,步骤A中特殊位置是指,当前块处于图像帧的最左上方、最上方或最左方。3、根据权利要求2所述的低复杂度的帧内预测模式选择方法,其特征在于,步骤A所述计算该特殊位置下的最优预测模式分三种情况当前块位于图像帧最左上方,最优预测模式为2;当前块在图像帧的最上方,计算在模式l、模式2和模式8下,所述两组样本点的开销值,选择开销值最小的模式作为当前块的最优预测模式;当前块在图像帧的最左方,计算在模式0、模式2、模式3和模式7下,所述两组样本点的开销值,选择开销值最小的模式作为当前块的最优预测模式。4、根据权利要求1、2或3任一所述的低复杂度的帧内预测模式选择方法,其特征在于,步骤C中计算临时最优预测模式开销值的步骤包括Cl、计算所有非最可能的预测模式下第一组样本点的绝对误差和,绝对误差和最小的模式,记为临时最优预测模式MPM!左方的模式为M2,M,右方的模式为M3;C2、判断模式2是否为最可能的预测模式,如果是,记M4为空,进入步骤C4;否则,记模式2为M4,进入步骤C3;C3、判断M2是否为最可能的预测模式,如果是,重新记M2左方的模式为M2,进入步骤C4;否则,判断M3是否为最可能的预测模式,如果是,重新记M3右方的模式为M3,进入步骤C4;C4、分别计算模式M。M2、M3和M4的第二组样本点的绝对误差和,并与相应的第一组样本点得绝对误差和相加,得到各^^莫式的绝对误差和,选择绝对误差和最小的模式作为临时最优预测模式,进入步骤D。5、根据权利要求1所述的低复杂度的帧内预测模式选择方法,其特征在于,根据图像块的紋理特征,两组样本点包含的点数相同或不同。6、根据权利要求1所述的低复杂度的帧内预测模式选择方法,其特征在于,所述方法适用于最小块为4x4的图像帧。全文摘要本发明公开了一种低复杂度的帧内预测模式选择方法,在当前块中取表征纹理特征的两组样本点,根据相邻块的开销值,计算阈值,该方法包括以下步骤判断当前块是否处于图像帧的特殊位置,如果是,计算该特殊位置下的最优预测模式并输出,结束计算;如果不是,计算当前块在最可能预测模式下的开销值,如果小于阈值,则输出该模式,结束计算;反之,选择所有非最可能的预测模式中开销值最小的一个,作为临时最优预测模式;比较最可能预测模式与临时最优预测模式的开销值,选择其中较小的作为最优预测模式输出。本发明通过选取特征点代替整个数据块,在对视频编码质量没有明显影响的情况下,显著降低帧内预测模式选择的计算量,提高视频编码的实时性。文档编号H04N7/32GK101175212SQ20071017590公开日2008年5月7日申请日期2007年10月15日优先权日2007年10月15日发明者雯左,梁立伟,宁王申请人:中兴通讯股份有限公司