专利名称：一种自适应的二维4×4块的逆变换方法
技术领域：
本发明涉及视频信息压缩领域，尤其涉及该领域中的二维4x4块 的逆变纟奂方法。
背景技术：
目前的高级视频编码标准中，基本都包含了 4x4块的变换和逆变 换功能，4x4块变换和逆变换是整数:燥作而不是实数运算，其过程和8 x 8块的离散余弦变换(DCT)基本相似。这种4x4块变换方法的优点 在于在编码器中和解码器中允许精度相同的变换和逆变换，便于使用 简单的整数运算方式，也就是说这里没有"逆变换误差，，。变换的单位是4x4块，而不是以往常用的8x8块，由于用于变换 块的尺寸缩小，运动物体的划分更精确，这样在运动物体边缘处的衔接 误差也大为减小。为了使小尺寸块的变换方式对图像中较大面积的平滑 区域不产生块之间的灰度差异，可对帧内宏块亮度数据的16个4x4块 的DC系数进行第二次4x4块的变换，对色度数据的4个4 x 4块的 DC系数进行2 x 2块的变换。对于视频编、解码器来说，逆变换都是其中计算量较大的一部分， 特别是在解码器中所占比例更大。 一般的，类似于二维8x8块的逆离 散余弦变换(IDCT) , 二维4x4块的逆变换也可以采用两次一维的蝶 形变换来完成，这样就能降低逆变换的实现复杂度。但是这种方法并没 有考虑逆变换输入数据的实际情况，对其中的很多零值元素也同样进行了计算，这就造成了计算浪费。为了消除这种计算浪费，从而进一步降低逆变换过程中的计算复杂 度、提高执行效率，需要对逆变换的输入数据进行分析，才艮据分析结果 对不同特性的输入数据采取不同的逆变换计算方法，以达到降低逆变换 计算复杂度的目的。专利说明书CN03155451公开了 一种减小视频解码器反离散余弦变 换演算量的方法，该方法采用了按照矩阵特性进行不同演算如果发现 只有第一元素中存在DC值，则把矩阵整体的结果值填为DC元素的1/N (N:矩阵列或行的值)；如果发现只有第一列中存在系数值，则分别 将第一列的1维IDCT结果值填入剩余的列；如果发现只有第一行中存 在系数值，则分别将第一行的1维IDCT结果值填入剩余的行；如果发 现不属于上述情况，则利用IDCT算式求出全部元素的结果值并填入。在使用上述方法时，需要分别知道第 一列和第 一行中是否包含有效 数据，同时也要知道其他行和列不包含有效数据，因而在工程实现中， 这种方法的执行效率并不高；而且，在大多数情况下，行和列的低频部 分会同时包含有效数据，那么该方法还是采用原来的计算过程，并不能 提高效率。发明内容本发明所要解决的技术问题是提供一种自适应的二维4x4块的逆 变换方法，对现有的逆变换方法进行优化，提高执行效率。为解决上述技术问题，本发明是通过以下技术方案实现的 一种自适应的二维4x4块的逆变换方法，包括以下步骤a、 定义一组4x4块逆变换的简化算法，其中包括4x4块在包含 不同数量及不同位置的有效数据时分别用以进行逆变换的简化算法；b、 获取原始输入矩阵中的有效数据个数及位置，据此从所述简化 算法组中选择相应的简化算法，再采用该简化算法对所述原始输入矩阵 进行逆变换。所述方法中，若在编码器端进行二维4x4块的逆变换，则通过使 用系数扫描方法对原始输入矩阵扫描来得到其中的有效数据个数及位 置；若在解码器端进行所述逆变换，则根据码流中的信息直接获取原始 输入矩阵中的有效数据个数及位置。其中，所述系ft扫描方法为Z扫描方法。本发明具有以下有益效果本发明所提出的方法中，可根据当前变换块中的有效数据个数及位 置采取相应的简化算法来实现二维4x4块的逆变换，这样在不影响牙见 频的编、解码质量前提下显著地降低了逆变换的计算量，提高了视频编、 解码的执行效率。
图1是本发明的方法流程图；图2是R264标准中二维4x4块逆变换的算法示意图； 图3是H,264标准中的4x4块逆变换系数矩阵示意图； 图4是R264标准中系数扫描方法示意图； 图5是R264标准中逆变换的横向变换过程示意图； 图6是本发明实施例的二维4x4块逆变换方法流程图。
具体实施方式
下面将结合附图及具体实施例对本发明作进一步详细的描述 如图l所示，本发明所提出的变换方法包括以下步骤101、 预先定义一组二维4x4块逆变换的简化算法，该简化算法中 包括4x4块在包含不同数量及不同位置的有效数据时分别用以进行逆 变换的筒化算法；102、 获取原始输入矩阵中的有效数据个数及位置；103、 根据原始输入矩阵中的有效数据个数及位置，从所述简化算 法组中选择相应的简化算法，再采用该简化算法对原始输入矩阵进行逆 变换。上述方法中，通过两次一维碟形变换来实现逆变换，所述简化算法 即为碟形变换的简化算法。该方法中，若在编码器端进行二维4x4块 的逆变换，则通过使用系数扫描方法对原始输入矩阵进行扫描来得到其 中的有效数据个数及位置；若在解码器端进行所述逆变换，则根据码流 中的信息直接获取原始输入矩阵中的有效数据个数及位置。图2是H.264标准中4x4块逆变换的算法示意图，其中，Y是4 x4的原始输入矩阵，X是Y经过逆变换的输出结果矩阵，C是逆变换 系数矩阵(如图3所示)，完成行变换，CT是逆变换系数矩阵的转置矩 阵，完成列变换。一般在进行行变换时，选择使用蝶形变换的方法，首先求出CTYT 的结果，然后再进行转置，就可以得到YC (因为YC= (CTYT) T)的 结果。对应输入数据Y的转置YT,其系数扫描顺序如图5所示。分别记a、 e、 i和m为第一行A，记b、 f、 j和n为第二行B,记c、 g、 k 和o为第三行C,记d、 h、 l和p为第四行D。那么在现有方法中，在 进行逆变换时蝶型变换的第一步是求出(A + C)、(A-C)、(B + (D>>1 )) 和((B》1) -D)，第二步是根据第一步的结果求出((A + C) + (B + (D 1)))、 ((A-C) + ((B》1) -D))、 ((A-C) - ((B》1) -D))和((A + C) - (B + (D》1)))。本实施例以在编码端进行逆变换为例，逆变换方法流程如图6所示首先定义一组4x4矩阵逆变换的简化算法如果有效数据个数只 有l个(可能是16个中的任意一个)，则不必进行计算，直接得出逆变 换结果；如果有效数据个数为2~5个，则只需计算(A + B)、 (A + (B l))、 (A- (B l))和(A-B),省掉其他多余的计算；如果有 效系数个数为6~ 15个，则仍釆用蝶型变换的原始算法。然后，使用系数扫描方法对原始输入矩阵进行扫描，获取其中的有 效数据个数及位置，据此选择相应的简化算法，采用该简化算法实现原 始输入矩阵的逆变换。在解码端进行逆变换时，可根据码流中的信息直接得到有效数据个 数，特别是在只有一个非零系数时，可以根据码流中的信息得到该系数 的具体位置，以采取相应的简化算法。在实际的R264视频编、解码过程中，因为能量大多集中在低频部 分，即有效系数个数只有1个或2~5个的情况占大多数，所以采用本 发明的方法，可显著降低计算量，提高视频编、解码的执行效率。以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应 包含在本发明的保护范围之内。
权利要求
1. 一种自适应的二维4×4块的逆变换方法，其特征在于，包括以下步骤a、定义一组4×4块逆变换的简化算法，其中包括4×4块在包含不同数量及不同位置的有效数据时分别用以进行逆变换的简化算法；b、获取原始输入矩阵中的有效数据个数及位置，据此从所述简化算法组中选择相应的简化算法，再采用该简化算法对所述原始输入矩阵进行逆变换。
2、 如权利要求1所述的自适应的二维4x4块的逆变换方法，其 特征在于，所述方法中，若在编码器端进行二维4x4块的逆变换， 则通过使用系数扫描方法对原始输入矩阵扫描来得到其中的有效数 据个数及位置；若在解码器端进行所述逆变换，则根据码流中的信息 直接获取原始输入矩阵中的有效数据个数及位置。
3、 如权利要求2所述的自适应的二维4x4块的逆变换方法，其 特征在于，所述系数扫描方法为Z扫描方法。
全文摘要
本发明公开了一种自适应的二维4×4块的逆变换方法，包括以下步骤a.定义一组4×4块逆变换的简化算法，其中包括4×4块在包含不同数量及不同位置的有效数据时分别用以进行逆变换的简化算法；b.获取原始输入矩阵中的有效数据个数及位置，据此从所述简化算法组中选择相应的简化算法，再采用该简化算法对所述原始输入矩阵进行逆变换。本发明所提出的方法中，可根据当前变换块中的有效数据个数及位置采取相应的简化算法来实现二维4×4块的逆变换，这样在不影响视频的编、解码质量前提下显著地降低了逆变换的计算量，提高了视频编、解码的执行效率。
文档编号H04N7/26GK101272492SQ20081006707
公开日2008年9月24日 申请日期2008年5月5日 优先权日2008年5月5日
发明者强 刘, 杨巨前, 梁立伟, 宁 王 申请人:中兴通讯股份有限公司