专利名称：视频编码中编码和重建图像块的方法
技术领域：
本发明涉及一种视频编码方法，特别涉及一种用于视频编码预测残差的变换及反变换方法。
背景技术：
在视频编码器中，视频数据首先被划分为若干个16X16大小的块，其中每一个16 X 16大小的块在国际视频编码标准H. 264/AVC及中国自主知识产权的AVS标准中被称为宏块(Macroblock)，视频编码的过程正是以宏块(Macroblock)为基本单位进行。在编码一个宏块的过程当中，编码器会进一步将宏块划分为多个更小的单元，比如16个4X4的块，如图1所示，或者4个8X8的块等。以H. 264/AVC中4X4块的帧内编码为例，如图2所示，编码器首先利用每个4X4块周围的像素(A L，Q，图2左)根据某个预测方向(图2右)生成一个4X4大小的预测块(Predicted block)，然后将4X4块与这个预测块逐个像素求差值，得到一个4X4大小的残差块(Residual block)，残差块中的16个元素称之为残差采样(Residualsample)值。由于不同的预测方向对应的残差的统计特性有所不同，近年来，有研究者提出模式相关的方向变换(Mode-dependentDirectional Transform,MDDT)(Y. Ye and Μ. Karczewicz,"Improved h.264 intra codingbased on bi-directional intra prediction, directional transform, andadaptivecoefficient scanning,"Proceedings of the 2008 IEEE International Conference onImageProcessing (ICIP)，pp. 2116-2119，Oct. 2008)，即对不同的预测方向，采用不同的变换函数，如下式描述，F = Ci · X · Ri(1)其中，Ci为预测模式i所对应的列变换矩阵，Ri为预测模式i所对应的行变换矩阵，X为残差块，F为计算变换所得到的变换系数矩阵。CpRyX和F均为NXN大小的矩阵。MDDT采用更加细化的变换，显著地提高了 H. 264/AVC的帧内编码性能。在MDDT的基础之上，又有研究者进一步对图像像素进行建模，分析了某些预测方向对应的残差在水平方向和垂直方向上的协方差矩阵，推导得出对于某些预测方向，采用给定形式的离散正弦变换(Discrete Sine Transform, DST) (Chuohao Yeo, YihHan Tan, Zhengguo Li, Susanto Rahardja, "TE7 :Results for Mode-Dependent FastSeparable KLT for Block-based IntraCoding，，，Joint Collaborative Team on VideoCoding (JCT-VC) of ITU-T SG16 WP3 and IS0/IECJTC1/SC29/WG11, JCTVC-C037,3rdJCT-VC Meeting, Guangzhou, China, Oct. ,2010)优于离散余弦变换，给定形式的离散正弦变换如下式描述(2)
’J ^inVI I ^N+ \ J其中，Cijj为DST的变换矩阵C中位于(i，j)位置的元素。MDDT显著地提高了 H. 264/AVC帧内编码的性能，但同时由于变换函数的数量显著增加，变换的计算没有快速算法，编码器和解码器的复杂度也显著提高了。
发明内容
针对上述问题，本发明的目的在于提出一种新的低复杂度的DST变换方法，使得这种变换方法与MDDT的性能近似相同，但变换函数的数量大大降低，变换过程的动态位宽降低，实现无乘法的DST。为实现上述目的，本发明提供了如下的技术方案方案1 一种视频编码中编码图像块的方法，所述图像块为图像像素值的集合，其特征在于，所述方法包括如下步骤a)选择一种预测模式，根据图像块周围的像素生成预测块；b)计算图像块和预测块对应像素之间的差值，得到残差值，所有残差值组成一个残差块；c)选择变换矩阵S，对残差块的每一行/列的元素进行行/列变换，得到变换系数块；d)根据帧内预测模式，从多个缩放系数矩阵中选择一个对变换系数进行量化，得到量化的变换系数；其中，所述变换矩阵S具有如下特征-S为整数矩阵；-S中的每个元素的绝对值均小于20 ；-S中每一行/列的元素不完全相同；-S · St近似对角矩阵，St为S的转置；-S经过归一化近似DST矩阵。更具体地，如果S · St的全部对角元素的平方和与全部元素的平方和之比大于0. 96，则称S · St近似对角矩阵；记S’为S除以S第一行全部元素的平方和的平方根得到的矩阵，那么如果S’与DST矩阵C相减得到的矩阵的各元素绝对值之和小于0. 9，则称S经过归一化近似DST矩阵。方案2 作为方案1的一种优选实现，其特征在于，所述残差块为4X 4或者8 X 8大小；对于4X4的残差块，所选的变换矩阵S为4X4的矩阵；对于8X8的残差块，所选的变换矩阵S为8X8的矩阵。方案3 作为方案1的一种优选实现，其特征在于，选择变换矩阵S进行变换的过程中，每一步计算通过加法、减法和移位操作实现，而不用通过乘法操作。方案4 作为方案2的一种优选实现，其特征在于，对于4X4的残差块，所选的变换矩阵S的元素的绝对值均为小于10的整数；对于8X8的残差块，所选的变换矩阵S的元素的绝对值均为小于20的整数。方案5 作为方案1的一种优选实现，其特征在于，所述多个缩放系数矩阵包括三个缩放矩阵(M1, M2, M3),其中缩放矩阵M1的每一行和每一列元素均相同；缩放矩阵M2的每一行元素相同，但是每一列元素不完全相同；缩放矩阵M3的每一列元素相同，但是每一行元素不完全相同。本发明同时提供了对应的重建图像块的方法
方案6 —种视频编码中重建图像块的方法，所述图像块是图像像素值的集合，其特征在于，所述方法包括如下步骤a)接收的编码预测模式根据图像块周围的像素生成预测块；b)根据接收的编码预测模式，从多个缩放系数矩阵中选择一个对接收的量化的变换系数块进行反量化，得到变换系数块；c)选择变换矩阵S的转置对反量化的变换系数块的每一行/列的元素进行行/列变换，得到残差块；d)根据预测块和残差块生成重建图像块；其中，所述变换矩阵S具有如下特征-S为整数矩阵；-S中的每个元素的绝对值均小于20 ；-S中每一行/列的元素不完全相同；-S · St近似对角矩阵，St为S的转置；-S经过归一化近似DST矩阵。更具体地，如果S · St的全部对角元素的平方和与全部元素的平方和之比大于0. 96，则称S · St近似对角矩阵；记S’为S除以S第一行全部元素的平方和的平方根得到的矩阵，那么如果S’与DST矩阵C相减得到的矩阵的各元素绝对值之和小于0. 9，则称S经过归一化近似DST矩阵。方案7 作为方案6的一种优选实现，其特征在于，所述变换系数块为4X4或者8X8大小；对于4X4的变换系数块，所选的变换矩阵S为4X4的矩阵；对于8X8的变换系数块，所选的变换矩阵S为8X8的矩阵。方案8 作为方案6的一种优选实现，其特征在于，选择变换矩阵S的转置进行反变换的过程中，每一步计算通过加法、减法和移位操作实现，而不用通过乘法操作。方案9 作为方案7的一种优选实现，其特征在于，对于4X4的残差块，所选的变换矩阵S的元素的绝对值均为小于10的整数；对于8X8的残差块，所选的变换矩阵S的元素的绝对值均为小于20的整数。方案10 作为方案6的一种优选实现，其特征在于，所述多个缩放系数矩阵包括三个缩放矩阵(M1, M2, M3),缩放矩阵M1的每一行和每一列元素均相同；缩放矩阵M2的每一行元素相同，但是每一列元素不完全相同；缩放矩阵M3的每一列元素相同，但是每一行元素不完全相同。本发明的有益效果本发明实现了无乘法的DST，其性能与MDDT近似相同，但显著地降低了编解码器的存储复杂度和计算复杂度。
图1是将单个宏块划分为16个4X4的块的示意图。图2是H. 264/AVC中4X4块的帧内预测示意图。图3是发明的变换函数与DST的变换函数的比较。
具体实施方式
实施例1 首先根据变换矩阵S的约束条件寻找得到一个满足(I)S为整数矩阵；O) S中的每个元素的绝对值均小于10 ； (3) S中每一行/列的元素不完全相同；(4) 与、的转置相乘结果为对角矩阵，即、的行向量间相互正交；(5) S4经过归一化后近似4X4的DST矩阵。寻找、的方法如下描述，定义这样一个矩阵
权利要求
1.一种视频编码中编码图像块的方法，其特征在于，包括如下步骤a)选择一种预测模式，根据图像块周围的像素生成预测块；b)计算图像块和预测块对应像素之间的差值，得到残差值，所有残差值组成一个残差块；c)选择变换矩阵S，对残差块的每一行/列的元素进行行/列变换，得到变换系数块；d)根据帧内预测模式，从多个缩放系数矩阵中选择一个对变换系数进行量化，得到量化的变换系数；其中，所述变换矩阵S具有如下特征-S为整数矩阵；-S中的每个元素的绝对值均小于20 ；-S中每一行/列的元素不完全相同；-S · St近似对角矩阵，St为S的转置；-S经过归一化近似DST矩阵。
2.按照权利要求1所述的方法，其特征在于，所述残差块为4X4或者8X8大小；对于4X4的残差块，所选的变换矩阵S为4X4的矩阵；对于8X8的残差块，所选的变换矩阵S为8X8的矩阵。
3.按照权利要求1所述的方法，其特征在于，选择变换矩阵S进行变换的过程中，每一步计算通过加法、减法和移位操作实现。
4.按照权利要求2所述的方法，其特征在于，对于4X 4的残差块，所选的变换矩阵S的元素的绝对值均为小于10的整数；对于8X8的残差块，所选的变换矩阵S的元素的绝对值均为小于20的整数。
5.按照权利要求1所述的方法，其特征在于，所述多个缩放系数矩阵包括三个缩放矩阵，其中缩放矩阵M1的每一行和每一列元素均相同；缩放矩阵M2的每一行元素相同，但是每一列元素不完全相同；缩放矩阵M3的每一列元素相同，但是每一行元素不完全相同。
6.一种视频编码中重建图像块的方法，其特征在于，包括如下步骤a)接收的编码预测模式根据图像块周围的像素生成预测块；b)根据接收的编码预测模式，从多个缩放系数矩阵中选择一个对接收的量化的变换系数块进行反量化，得到变换系数块；c)选择变换矩阵S的转置对反量化的变换系数块的每一行/列的元素进行行/列反变换，得到残差块；d)根据预测块和残差块生成重建图像块；其中，所述变换矩阵S具有如下特征-S为整数矩阵；-S中的每个元素的绝对值均小于20 ；-S中每一行/列的元素不完全相同；-S · St近似对角矩阵，St为S的转置；-S经过归一化近似DST矩阵。
7.按照权利要求6所述的方法，其特征在于，所述变换系数块为4X4或者8X8大小；对于4X4的变换系数块，所选的变换矩阵S为4X4的矩阵；对于8X8的变换系数块，所选的变换矩阵S为8X8的矩阵。
8.按照权利要求6所述的方法，其特征在于，选择变换矩阵S的转置进行反变换的过程中，每一步计算通过加法、减法和移位操作实现。
9.按照权利要求7所述的方法，其特征在于，对于4X 4的残差块，所选的变换矩阵S的元素的绝对值均为小于10的整数；对于8X8的残差块，所选的变换矩阵S的元素的绝对值均为小于20的整数。
10.按照权利要求6所述的方法，其特征在于，所述多个缩放系数矩阵包括三个缩放矩阵，缩放矩阵M1的每一行和每一列元素均相同；缩放矩阵M2的每一行元素相同，但是每一列元素不完全相同；缩放矩阵M3的每一列元素相同，但是每一行元素不完全相同。
全文摘要
本发明涉及一种视频编码中编码和重建图像块的方法。编码过程首先根据当前块选定的预测模式，生成图像预测块，选择发明的一组低复杂度整数DST变换函数，对残差块进行变换，得到变换系数块，对变换系数块进行量化；重建过程接收量化的变换系数块，并进行反量化，得到变换系数块，选择发明的一组低复杂度整数DST变换函数，对变换系数块进行反变换，计算得到残差块，根据当前块选定的预测模式，生成图像预测块，并结合反变换计算得到残差块生成重建图像块。本发明实现了无乘法的DST，其性能与MDDT近似相同，但显著地降低了编解码器的存储复杂度，可以直接应用于视频编码过程中，有效提高编码效率，并降低模式相关变换的计算复杂度。
文档编号H04N7/50GK102595112SQ20111000564
公开日2012年7月18日 申请日期2011年1月12日 优先权日2011年1月12日
发明者张莉, 赵欣, 马思伟, 高文 申请人:北京大学