专利名称：一种视频编码预测残差块的分解及重建方法
技术领域：
本发明属于信号处理中的视频编码技术领域，特别涉及一种视频编码预测残差块的分解及重建方法。
背景技术：
H.264/AVC是ITU-T(国际电信联盟远程通信标准化组)的视频编码专家组和ISO/IEC(国际标准化组织/国际电工委员会)的运动图像专家组联合提出的最新视频编码标准。与MPEG-4编码标准相比，H.264/AVC在获取相同的视频质量条件下，码率可以节省50％左右。H.264/AVC为了获得高压缩率，提出了一些新的编码方法，如帧内预测、运动补偿、环路滤波、基于上下文的熵编码等。
视频编码过程如图1所示，先对视频图像进行帧内或帧间预测，在预测过程中通过计算代价函数从而选择最佳的预测模式，将原始图像和预测图像的残差进行分解得到分解系数矩阵，然后对分解系数矩阵进行量化和熵编码得到输出码流，同时对量化系数进行反量化，预测残差块重建和重构得到重构图像，用于下一帧编码时的参考图像。
H.264/AVC的帧内预测方法是基于空间域的，即根据相邻宏块的像素的重构值来预测当前宏块。H.264/AVC分别定义了两种亮度预测残差块尺寸(16×16和4×4)和一种色度尺寸(8×8)。其中，对于4×4的预测残差块共定义了9种预测模式，而对于16×16的亮度块和8×8的色度块则只定义了5种预测模式。16×16的预测残差块尺寸适合光滑的区域，而4×4的预测残差块尺寸适合于具有丰富纹理特征的区域。
H.264/AVC的帧间预测方法主要是利用连续图像序列之间的相关性，通过运动补偿预测编码方法来消除视频图像的时间冗余。H.264/AVC分别定义了七种亮度帧间预测残差块尺寸(16×16，16×8，8×16，8×8，8×4，4×8，4×4)。不同块尺寸的运动补偿能更加精确地表示宏块的运动特性，减少预测残差。块尺寸越大的运动估计适合于宏块中纹理简单，运动不明显的视频对象，而块尺寸越小的运动估计适合于宏块中运动显著的视频对象。
H.264/AVC使用4×4的离散余弦变换(DCT)对亮度块和色度块的预测残差块进行分解，以进一步去除空间冗余性。H.264/AVC使用的4×4离散余弦变换具有很低的计算复杂度，并且能有效减少振铃噪声，但是对低码率编码的图像，在块内和块边界上将会存在块效应。由于离散余弦变换矩阵的尺寸小于预测残差块(16×16，16×8，8×16)，所以不可避免地会在块的变换边界上产生块效应；同时，DCT变换矩阵的值是固定的，它不能根据预测残差块信号的能量分布进行调整。
发明内容
本发明提供一种视频编码预测残差块的分解方法，同时提供一种视频编码预测残差块的重建方法，减少现有DCT变换矩阵和预测残差块的尺寸不匹配所引起的块效应，并解决DCT变换矩阵的值不能根据预测残差块信号的能量分布进行调整的问题，以有效地去除预测残差块相关性，提高视频编码质量。
本发明的一种视频编码预测残差块的分解方法，包括 (1)预测残差块分类步骤对输入的帧内或帧间预测残差块进行分类，当残差块的长边尺寸为4时，进行步骤(2)；当残差块的长边尺寸为8时，进行步骤(3)；当残差块的长边尺寸为16时，进行步骤(4)； (2)第一多通道滤波器组横向分解步骤使用第一多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达 式为 其中， α＝0.1225π； 分解完成后，进行步骤(5)； (3)第三多通道滤波器组横向分解步骤使用第三多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达 式为 其中， R1＝SR0PSP， T1＝ST0PSP， α＝0.4362π，β＝0.38π； 分解完成后，进行步骤(5)； (4)第二多通道滤波器组横向分解步骤使用第二多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，过程为 (4.1)对残差块X的每个行向量进行横向对称扩展以及分解 对第i个行向量Ni＝[xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15]横向对称扩展得到扩展行向量Zi，Zi＝[xi，1xi，0xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15xi，15xi，14]，对Zi进行横向分解得到第i个行向量Ni的横向分解向量Mi Mi＝[yi，0yi，1yi，2yi，3yi，4yi，5yi，6yi，7yi，8yi，9yi，10yi，11yi，12yi，13yi，14yi，15]， 其中 [yi，0yi，1yi，2yi，3]＝[xi，1xi，0xi，0xi，1xi，2xi，3xi，4xi，5]F2T， [yi，4yi，5yi，6yi，7]＝[xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9]F2T， [yi，8yi，9yi，10yi，11]＝[xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13]F2T， [yi，12yi，13yi，14yi，15]＝[xi，10xi，11xi，12xi，13xi，14xi，15xi，15xi，14]F2T， α＝-0.595π，i为0～k-1，k≤16，k由残差块X的宽边尺寸决定； (4.2)各个行向量的横向分解向量Mi构成横向分解系数矩阵Y， 其中，k由残差块X的宽边尺寸决定； 分解完成后，进行步骤(5)； (5)横向分解系数矩阵分类步骤对横向分解系数矩阵Y进行分类，当Y的宽边尺寸为4时，进行步骤(6)；当Y的宽边尺寸为8时，进行步骤(7)；当Y的宽边尺寸为16时，进行步骤(8)； (6)第一多通道滤波器组纵向分解步骤使用第一多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为 其中，U0、U1、W0、W1和α的值与步骤(2)中所示相同； 分解结束； (7)第三多通道滤波器组纵向分解步骤使用第三多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为 其中，R0、R1、T0、T1的值与步骤(3)中所示相同； 分解结束； (8)第二多通道滤波器组纵向分解步骤使用第二多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，过程为 (8.1)对横向分解系数矩阵Y的每个列向量进行纵向对称扩展以及分解 对第i个列向量Li＝[y0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，i]T纵向对称扩展得到扩展列向量Zi，Zi＝[y1，iy0，iy0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，iy15，iy14，i]T，对Zi进行纵向分解得到第i个列向量Li的纵向分解向量Ji Ji＝[d0，id1，id2，id3，id4，id5，id6，id7，id8，id9，id10，id11，id12，id13，id14，id15，i]T， 其中 [d0，id1，id2，id3，i]T＝F2[y1，iy0，iy0，iy1，iy2，iy3，iy4，iy5，i]T， [d4，id5，id6，id7，i]T＝F2[y2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，i]T， [d8，id9，id10，id11，i]T＝F2[y6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，i]T， [d12，id13，id14，id15，i]T＝F2[y10，iy11，iy12，iy13，iy14，iy15，iy15，iy14，i]T， H0、H1、H2、H3、G0、G1、G2、G3的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由残差块X的长边尺寸决定； (8.2)各个列向量的纵向分解向量Ji构成残差块的分解系数矩阵D，D＝[J0 J1…Jk-1]，其中k由残差块X的长边尺寸决定； 分解结束。
本发明的一种视频编码预测残差块的重建方法，利用分解系数矩阵重建预测参差块，包括 (1)预测残差块的分解系数矩阵分类步骤对输入的分解系数矩阵D进行分类，当分解系数矩阵的宽边尺寸为4时，进行步骤(2)；当分解系数矩阵的宽边尺寸为8时，进行步骤(3)；当分解系数矩阵的宽边尺寸为16时，进行步骤(4)； (2)第一多通道滤波器组纵向重建步骤使用第一多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为 其中， α＝0.1225π； 重建完成后，进行步骤(5)； (3)第三多通道滤波器组纵向重建步骤使用第三多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为 其中， R1＝SR0PSP， T1＝ST0PSP， α＝0.4362π，β＝0.38π； 重建完成后，进行步骤(5)； (4)第二多通道滤波器组纵向重建步骤使用第二多通道滤波器组对分解系数矩 阵D进行纵向重建得到横向分解系数矩阵Y，过程为 (4.1)对分解系数矩阵D的每个列向量进行重建 对分解系数矩阵D的第i个列向量Ji＝[d0，id1，id2，id3，id4，id5，id6，id7，id8，id9，id10，id11，id12，id13，id14，id15，i]T进行重建得到横向分解系数矩阵Y的第i个列向量Li＝[y0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，i]T，其计算表达式为 y0，i＝d0，i×h02+d0，i×h06+d1，i×h12-d1，i×h16+d2，i×g02+d2，i×g06+d3，i×g12-d3，i×g16 y1，i＝d0，i×h03+d0，i×h07+d1，i×h13-d1，i×h17+d2，i×g03+d2，i×g07+d3，i×g13-d3，i×g17 y2，i＝d0，i×h04+d4，i×h00+d1，i×h14+d5，i×h10+d2，i×g04+d6，i×g00+d3，i×g14+d7，i×g10 y3，i＝d0，i×h05+d4，i×h01+d1，i×h15+d5，i×h11+d2，i×g05+d6，i×g01+d3，i×g15+d7，i×g11 y4，i＝d0，i×h06+d4，i×h02+d1，i×h16+d5，i×h12+d2，i×g06+d6，i×g02+d3，i×g16+d7，i×g12 y5，i＝d0，i×h07+d4，i×h03+d1，i×h17+d5，i×h13+d2，i×g07+d6，i×g03+d3，i×g17+d7，i×g13 y6，i＝d4，i×h04+d8，i×h00+d5，i×h14+d9，i×h10+d6，i×g04+d10，i×g00+d7，i×g14+d11，i×g10 y7，i＝d4，i×h05+d8，i×h01+d5，i×h15+d9，i×h11+d6，i×g05+d10，i×g01+d7，i×g15+d11，i×g11 y8，i＝d4，i×h06+d8，i×h02+d5，i×h16+d9，i×h12+d6，i×g06+d10，i×g02+d7，i×g16+d11，i×g12 y9，i＝d4，i×h07+d8，i×h03+d5，i×h17+d9，i×h13+d6，i×g07+d10，i×g03+d7，i×g17+d11，i×g13 y10，i＝d8，i×h04+d12，i×h00+d9，i×h14+d13，i×h10+d10，i×g04+d14，i×g00+d11，i×g14+d15，i×g10 y11，i＝d8，i×h05+d12，i×h01+d9，i×h15+d13，i×h11+d10，i×g05+d14，i×g01+d11，i×g15+d15，i×g11 y12，i＝d8，i×h06+d12，i×h02+d9，i×h16+d13，i×h12+d10，i×g06+d14，i×g02+d11，i×g16+d15，i×g12 y13，i＝d8，i×h07+d12，i×h03+d9，i×h17+d13，i×h13+d10，i×g07+d14，i×g03+d11，i×g17+d15，i×g13 y14，i＝d12，i×h04+d12，i×h00+d13，i×h14-d13，i×h10+d14，i×g04+d14，i×g00+d15，i×g14-d15，i×g10 y15，i＝d12，i×h05+d12，i×h01+d13，i×h15-d13，i×h11+d14，i×g05+d14，i×g01+d15，i×g15-d15，i×g11 其中 α＝-0.595π，i为0～k-1，k≤16，k由分解系数矩阵D的长边尺寸决定； (4.2)各个列向量的纵向重建向量Li构成横向分解系数矩阵Y， Y＝[L0 L1…Lk-1]，其中，k由分解系数矩阵D的长边尺寸决定； 重建完成后，进行步骤(5)； (5)横向分解系数矩阵分类步骤对横向分解系数矩阵Y进行分类，当Y的长边尺寸为4时，进行步骤(6)；当Y的长边尺寸为8时，进行步骤(7)；当Y的长边尺寸为16时，进行步骤(8)； (6)第一多通道滤波器组横向重建步骤使用第一多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为 其中，U0、U1、W0、W1和α的值与步骤(2)中所示相同； 重建结束； (7)第三多通道滤波器组横向重建步骤使用第三多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为 其中，R0、R1、T0、T1的值与步骤(3)中所示相同； 重建结束； (8)第二多通道滤波器组横向重建步骤使用第二多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，过程为 (8.1)对横向分解系数矩阵Y的每个行向量进行重建 对横向分解系数矩阵Y的第i个行向量Mi＝[yi，0yi，1yi，2yi，3yi，4yi，5yi，6yi，7yi，8yi，9yi，10yi，11yi，12yi，13yi，14yi，15]进行重建得到残差块X的第i个行向量Ni＝[xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15]，其计算表达式为 xi，0＝yi，0×h02+yi，0×h06+yi，1×h12-yi，1×h16+yi，2×g02+yi，2×g06+yi，3×g12-yi，3×g16 xi，1＝yi，0×h03+yi，0×h07+yi，1×h13-yi，1×h17+yi，2×g03+yi，2×g07+yi，3×g13-yi，3×g17 xi，2＝yi，0×h04+yi，4×h00+yi，1×h14+yi，5×h10+yi，2×g04+yi，6×g00+yi，3×g14+yi，7×g10 xi，3＝yi，0×h05+yi，4×h01+yi，1×h15+yi，5×h11+yi，2×g05+yi，6×g01+yi，3×g15+yi，7×g11 xi，4＝yi，0×h06+yi，4×h02+yi，1×h16+yi，5×h12+yi，2×g06+yi，6×g02+yi，3×g16+yi，7×g12 xi，5＝yi，0×h07+yi，4×h03+yi，1×h17+yi，5×h13+yi，2×g07+yi，6×g03+yi，3×g17+yi，7×g13 xi，6＝yi，4×h04+yi，8×h00+yi，5×h14+yi，9×h10+yi，6×g04+yi，10×g00+yi，7×g14+yi，11×g10 xi，7＝yi，4×h05+yi，8×h01+yi，5×h15+yi，9×h11+yi，6×g05+yi，10×g01+yi，7×g15+yi，11×g11 xi，8＝yi，4×h06+yi，8×h02+yi，5×h16+yi，9×h12+yi，6×g06+yi，10×g02+yi，7×g16+yi，11×g12 xi，9＝yi，4×h07+yi，8×h03+yi，5×h17+yi，9×h13+yi，6×g07+yi，10×g03+yi，7×g17+yi，11×g13 xi，10＝yi，8×h04+yi，12×h00+yi，9×h14+yi，13×h10+yi，10×g04+yi，14×g00+yi，11×g14+yi，15×g10 xi，11＝yi，8×h05+yi，12×h01+yi，9×h15+yi，13×h11+yi，10×g05+yi，14×g01+yi，11×g15+yi，15×g11 xi，12＝yi，8×h06+yi，12×h02+yi，9×h16+yi，13×h12+yi，10×g06+yi，14×g02+yi，11×g16+yi，15×g12 xi，13＝yi，8×h07+yi，12×h03+yi，9×h17+yi，13×h13+yi，10×g07+yi，14×g03+yi，11×g17+yi，15×g13 xi，14＝yi，12×h04+yi，12×h00+yi，13×h14-yi，13×h10+yi，14×g04+yi，14×g00+yi，15×g14-yi，15×g10 xi，15＝yi，12×h05+yi，12×h01+yi，13×h15-yi，13×h11+yi，14×g05+yi，14×g01+yi，15×g15-yi，15×g11 其中，H0、H1、H2、H3、G0、G1、G2、G3的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由横向分解系数矩阵Y的宽边尺寸决定； (8.2)各个行向量的横向重建向量Ni构成残差块X， 其中，k由横向分解系数矩阵Y的宽边尺寸决定； 重建结束。
本发明使用三个多通道滤波器组，对视频数据进行分解(变换)处理，本发明提出的三个多通道滤波器组，不仅具有正交特性，而且还具有线性相位，此外，通过多通道滤波器组分解得到的分解系数矩阵中频谱系数的分布与4×4或8×8离散余弦变换一样，从左上角到右下角频谱系数由低变高；同时，本发明能有效地进行去相关性，并能减少DCT变换矩阵和预测残差块尺寸不匹配所引起的块效应，提高编码主客观质量。
实验结果表明，使用本发明多通道滤波器组进行分解处理的视频编码质量优于使用DCT变换处理的视频编码质量。
图1视频编码的流程示意图； 图2本发明的分解方法流程示意图； 图3本发明的重建方法流程示意图。
具体实施例方式 视频编码过程如图1所示，先对视频图像进行帧内或帧间预测，在预测过程中通过计算代价函数从而选择最佳的预测模式，将原始图像和预测图像的残差进行分解得到分解系数矩阵，然后对分解系数矩阵进行量化和熵编码得到输出码流，同时对量化系数进行反量化，预测残差块重建和重构得到重构图像，用于下一帧编码时的参考图像。
本发明的分解方法用于对预测参差块进行分解得到分解系数矩阵，其流程如图2所示。
本发明的重建方法利用分解系数矩阵重建预测参差块，其流程如图3所示。
实施编码过程将采用H.264中的4×4，8×8，16×16帧内预测模式和7种不同尺寸块的帧间预测模式，且滤波器组以表的形式同时存放在编码器和解码器中。采用基于多通道滤波器组的预测残差块分解方法之后，根据量化参数得到对应的量化步长对分解系数直接进行量化和反量化。测试平台为JM10.1，选择了具有代表性的分辨率CIF(352×288)，具有不同的颜色、纹理特征的国际标准序列Bus、Mobile、Foreman、Coastguard作为测试序列。本实施例的参数设置如下 1.编码结构I帧1帧，P帧29帧 2.熵编码模式CAVLC； 3.使用率失真优化模型； 4.参考帧数1； 5.搜索范围±16像素点； 本实施例表明相对于离散余弦变换(DCT)，采用本发明的分解方法之后，在相同的码率下，平均峰值信噪比提高0.2dB以上。特别地，在使用基于DCT的H.264/AVC编码器时，运动物体附近将会产生块效应，而在使用基于多通道滤波器组的H.264编码器时没有产生块效应。因此，本发明提出的基于多通道滤波器组的预测残差块分解方法，在视频编码中能有效进行去相关性，减少DCT变换矩阵和预测残差块的尺寸不匹配所引起的块效应，提高编码主客观质量。
权利要求
1.一种视频编码预测残差块的分解方法，包括
(1)预测残差块分类步骤对输入的帧内或帧间预测残差块进行分类，当残差块的长边尺寸为4时，进行步骤(2)；当残差块的长边尺寸为8时，进行步骤(3)；当残差块的长边尺寸为16时，进行步骤(4)；
(2)第一多通道滤波器组横向分解步骤使用第一多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为
其中，
α＝0.1225π；
分解完成后，进行步骤(5)；
(3)第三多通道滤波器组横向分解步骤使用第三多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为
其中，
R1＝SR0PSP，
T1＝ST0PSP，
α＝0.4362π，β＝0.38π；
分解完成后，进行步骤(5)；
(4)第二多通道滤波器组横向分解步骤使用第二多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，过程为
(4.1)对残差块X的每个行向量进行横向对称扩展以及分解
对第i个行向量Ni＝[xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15]横向对称扩展得到扩展行向量Zi，Zi＝[xi，1 xi，0 xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15 xi，15 xi，14]，对Zi进行横向分解得到第i个行向量Ni的横向分解向量Mi
Mi＝[yi，0 yi，1 yi，2 yi，3 yi，4 yi，5 yi，6 yi，7 yi，8 yi，9 yi，10 yi，11 yi，12 yi，13 yi，14 yi，15]，
其中
[yi，0 yi，1 yi，2 yi，3]＝[xi，1 xi，0 xi，0 xi，1 xi，2 xi，3 xi，4 xi，5]F2T，
[yi，4 yi，5 yi，6 yi，7]＝[xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9]F2T，
[yi，8 yi，9 yi，10 yi，11]＝[xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13]F2T，
[yi，12 yi，13 yi，14 yi，15]＝[xi，10 xi，11 xi，12 xi，13 xi，14 xi，15 xi，15 xi，14]F2T，
α＝-0.595π，i为0～k-1，k≤16，k由残差块X的宽边尺寸决定；
(4.2)各个行向量的横向分解向量Mi构成横向分解系数矩阵Y，其中，k由残差块X的宽边尺寸决定；
分解完成后，进行步骤(5)；
(5)横向分解系数矩阵分类步骤对横向分解系数矩阵Y进行分类，
当Y的宽边尺寸为4时，进行步骤(6)；当Y的宽边尺寸为8时，进行步骤(7)；当Y的宽边尺寸为16时，进行步骤(8)；
(6)第一多通道滤波器组纵向分解步骤使用第一多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为
其中，U0、U1、W0、W1和α的值与步骤(2)中所示相同；分解结束；
(7)第三多通道滤波器组纵向分解步骤使用第三多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数
矩阵D，其分解表达式为
其中，R0、R1、T0、T1的值与步骤(3)中所示相同；分解结束；
(8)第二多通道滤波器组纵向分解步骤使用第二多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，过程为
(8.1)对横向分解系数矩阵Y的每个列向量进行纵向对称扩展以及分解
对第i个列向量Li＝[y0，i y1，i y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i]T
纵向对称扩展得到扩展列向量Zi，Zi＝[y1，i y0，i y0，i y1，i y2，i y3，i y4，i y5，i y6，iy7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i y15，i y14，i]T，对Zi进行纵向分解得到第i个列向量Li的纵向分解向量Ji
Ji＝[d0，i d1，i d2，i d3，i d4，i d5，i d6，i d7，i d8，i d9，i d10，i d11，i d12，i d13，i d14，i d15，i ]T，
其中
[d0，i d1，i d2，i d3，i]T＝F2[y1，i y0，i y0，i y1，i y2，i y3，i y4，i y5，i]T，
[d4，i d5，i d6，i d7，i]T＝F2[y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i]T，
[d8，i d9，i d10，i d11，i]T＝F2[y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i]T，
[d12，i d13，i d14，i d15，i]T＝F2[y10，i y11，i y12，i y13，i y14，i y15，i y15，i y14，i]T，
H0、H1、H2、H3、G0、G1、G2、G3的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由残差块X的长边尺寸决定；
(8.2)各个列向量的纵向分解向量Ji构成残差块的分解系数矩阵D，
D＝[J0 J1…Jk-1]，其中k由残差块X的长边尺寸决定；
分解结束。
2.一种视频编码预测残差块的重建方法，利用分解系数矩阵重建预测参差块，包括
(1)预测残差块的分解系数矩阵分类步骤对输入的分解系数矩阵D进行分类，当分解系数矩阵的宽边尺寸为4时，进行步骤(2)；当分解系数矩阵的宽边尺寸为8时，进行步骤(3)；当分解系数矩阵的宽边尺寸为16时，进行步骤(4)；
(2)第一多通道滤波器组纵向重建步骤使用第一多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为
其中，
α＝0.1225π；
重建完成后，进行步骤(5)；
(3)第三多通道滤波器组纵向重建步骤使用第三多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，其重建表达式为
其中，
R1＝SR0PSP，
T1＝ST0PSP，
α＝0.4362π，β＝0.38π；
重建完成后，进行步骤(5)；
(4)第二多通道滤波器组纵向重建步骤使用第二多通道滤波器组对分解系数矩阵D进行纵向重建得到横向分解系数矩阵Y，过程为
(4.1)对分解系数矩阵D的每个列向量进行重建
对分解系数矩阵D的第i个列向量Ji＝[d0，i d1，i d2，i d3，i d4，i d5，i d6，i d7，id8，i d9，i d10，i d11，i d12，i d13，i d14，i d15，i]T进行重建得到横向分解系数矩阵Y的第i个列向量Li＝[y0，i y1，i y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i]T，其计算表达式为
y0，i＝d0，i×h02+d0，i×h06+d1，i×h12-d1，i×h16+d2，i×g02+d2，i×g06+d3，i×g12-d3，i×g16
y1，i＝d0，i×h03+d0，i×h07+d1，i×h13-d1，i×h17+d2，i×g03+d2，i×g07+d3，i×g13-d3，i×g17
y2，i＝d0，i×h04+d4，i×h00+d1，i×h14+d5，i×h10+d2，i×g04+d6，i×g00+d3，i×g14+d7，i×g10
y3，i＝d0，i×h05+d4，i×h01+d1，i×h15+d5，i×h11+d2，i×g05+d6，i×g01+d3，i×g15+d7，i×g11
y4，i＝d0，i×h06+d4，i×h02+d1，i×h16+d5，i×h12+d2，i×g06+d6，i×g02+d3，i×g16+d7，i×g12
y5，i＝d0，i×h07+d4，i×h03+d1，i×h17+d5，i×h13+d2，i×g07+d6，i×g03+d3，i×g17+d7，i×g13
y6，i＝d4，i×h04+d8，i×h00+d5，i×h14+d9，i×h10+d6，i×g04+d10，i×g00+d7，i×g14+d11，i×g10
y7，i＝d4，i×h05+d8，i×h01+d5，i×h15+d9，i×h11+d6，i×g05+d10，i×g01+d7，i×g15+d11，i×g11
y8，i＝d4，i×h06+d8，i×h02+d5，i×h16+d9，i×h12+d6，i×g06+d10，i×g02+d7，i×g16+d11，i×g12
y9，i＝d4，i×h07+d8，i×h03+d5，i×h17+d9，i×h13+d6，i×g07+d10，i×g03+d7，i×g17+d11，i×g13
y10，i＝d8，i×h04+d12，i×h00+d9，i×h14+d13，i×h10+d10，i×g04+d14，i×g00+d11，i×g14+d15，i×g10
y11，i＝d8，i×h05+d12，i×h01+d9，i×h15+d13，i×h11+d10，i×g05+d14，i×g01+d11，i×g15+d15，i×g11
y12，i＝d8，i×h06+d12，i×h02+d9，i×h16+d13，i×h12+d10，i×g06+d14，i×g02+d11，i×g16+d15，i×g12
y13，i＝d8，i×h07+d12，i×h03+d9，i×h17+d13，i×h13+d10，i×g07+d14，i×g03+d11，i×g17+d15，i×g13
y14，i＝d12，i×h04+d12，i×h00+d13，i×h14-d13，i×h10+d14，i×g04+d14，i×g00+d15，i×g14-d15，i×g10
y15，i＝d12，i×h05+d12，i×h01+d13，i×h15-d13，i×h11+d14，i×g05+d14，i×g01+d15，i×g15-d15，i×g11
其中
α＝-0.595π，i为0～k-1，k≤16，k由分解系数矩阵D的长边尺寸决定；
(4.2)各个列向量的纵向重建向量Li构成横向分解系数矩阵Y，
Y＝[L0 L1…Lk-1]，其中，k由分解系数矩阵D的长边尺寸决定；重建完成后，进行步骤(5)；
(5)横向分解系数矩阵分类步骤对横向分解系数矩阵Y进行分类，当Y的长边尺寸为4时，进行步骤(6)；当Y的长边尺寸为8时，进行步骤(7)；当Y的长边尺寸为16时，进行步骤(8)；
(6)第一多通道滤波器组横向重建步骤使用第一多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为
其中，U0、U1、W0、W1和α的值与步骤(2)中所示相同；重建结束；
(7)第三多通道滤波器组横向重建步骤使用第三多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，其重建表达式为
其中，R0、R1、T0、T1的值与步骤(3)中所示相同；重建结束；
(8)第二多通道滤波器组横向重建步骤使用第二多通道滤波器组对横向分解系数矩阵Y进行横向重建得到残差块X，过程为
(8.1)对横向分解系数矩阵Y的每个行向量进行重建
对横向分解系数矩阵Y的第i个行向量Mi＝[yi，0 yi，1 yi，2 yi，3 yi，4 yi，5yi，6 yi，7 yi，8 yi，9 yi，10 yi，11 yi，12 yi，13 yi，14 yi，15]进行重建得到残差块X的第i个行向量Ni＝[xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15]，其计算表达式为
xi，0＝yi，0×h02+yi，0×h06+yi，1×h12-yi，1×h16+yi，2×g02+yi，2×g06+yi，3×g12-yi，3×g16
xi，1＝yi，0×h03+yi，0×h07+yi，1×h13-yi，1×h17+yi，2×g03+yi，2×g07+yi，3×g13-yi，3×g17
xi，2＝yi，0×h04+yi，4×h00+yi，1×h14+yi，5×h10+yi，2×g04+yi，6×g00+yi，3×g14+yi，7×g10
xi，3＝yi，0×h05+yi，4×h01+yi，1×h15+yi，5×h11+yi，2×g05+yi，6×g01+yi，3×g15+yi，7×g11
xi，4＝yi，0×h06+yi，4×h02+yi，1×h16+yi，5×h12+yi，2×g06+yi，6×g02+yi，3×g16+yi，7×g12
xi，5＝yi，0×h07+yi，4×h03+yi，1×h17+yi，5xh13+yi，2×g07+yi，6×g03+yi，3×g17+yi，7×g13
xi，6＝yi，4×h04+yi，8×h00+yi，5×h14+yi，9×h10+yi，6×g04+yi，10×g00+yi，7×g14+yi，11×g10
xi，7＝yi，4×h05+yi，8×h01+yi，5×h15+yi，9×h11+yi，6×g05+yi，10×g01+yi，7×g15+yi，11×g11
xi，8＝yi，4×h06+yi，8×h02+yi，5×h16+yi，9×h12+yi，6×g06+yi，10×g02+yi，7×g16+yi，11×g12
xi，9＝yi，4×h07+yi，8×h03+yi，5×h17+yi，9×h13+yi，6×g07+yi，10×g03+yi，7×g17+yi，11×g13
xi，10＝yi，8×h04+yi，12×h00+yi，9×h14+yi，13×h10+yi，10×g04+yi，14×g00+yi，11×g14+yi，15×g10
xi，11＝yi，8×h05+yi，12×h01+yi，9×h15+yi，13×h11+yi，10×g05+yi，14×g01+yi，11×g15+yi，15×g11
xi，12＝yi，8×h06+yi，12×h02+yi，9×h16+yi，13×h12+yi，10×g06+yi，14×g02+yi，11×g16+yi，15×g12
xi，13＝yi，8×h07+yi，12×h03+yi，9×h17+yi，13×h13+yi，10×g07+yi，14×g03+yi，11×g17+yi，15×g13
xi，14＝yi，12×h04+yi，12×h00+yi，13×h14-yi，13×h10+yi，14×g04+yi，14×g00+yi，15×g14-yi，15×g10
xi，15＝yi，12×h05+yi，12xh01+yi，13×h15-yi，13×h11+yi，14×g05+yi，14×g01+yi，15×g15-yi，15×g11
其中，H0、H1、H2、H3、G0、G1、G2、G3的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由横向分解系数矩阵Y的宽边尺寸决定；
(8.2)各个行向量的横向重建向量Ni构成残差块X，其中，k由横向分解系数矩阵Y的宽边尺寸决定；重建结束。
全文摘要
一种视频编码预测残差块的分解及重建方法，属于信号处理中的视频编码技术领域，减少现有DCT变换矩阵引起的块效应，并解决该矩阵的值不能进行调整的问题。本发明分解方法包括预测残差块分类，第一、第三、第二多通道滤波器组横向分解，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向分解步骤；本发明重建方法包括预测残差块的分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向重建，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组横向重建步骤。本发明能有效地进行去相关性，并能减少DCT变换矩阵和预测残差块尺寸不匹配所引起的块效应，提高编码主客观质量。
文档编号H04N7/50GK101562747SQ20091006216
公开日2009年10月21日 申请日期2009年5月19日 优先权日2009年5月19日
发明者陈加忠, 周敬利, 单 黎, 孙自龙 申请人:华中科技大学