计算编码失真度和编码模式控制的方法及其系统的制作方法

计算编码失真度和编码模式控制的方法及其系统的制作方法
【专利摘要】本发明涉及视频编码和处理领域，公开了一种计算编码失真度和编码模式控制的方法及系统。本发明中该方法包括以下步骤：根据编码宏块的像素值以及在当前预测模式下的预测像素值计算预测残差值，并获取预测残差值经过离散余弦变换后输出的DCT系数X；获取X经过量化和反量化处理后输出的频域系数Y；对DCT系数X经预设系数矩阵Ef调整后的频域系数和频域系数Y进行残差计算；对残差计算结果进行反离散余弦变换后得出当前预测模式下的编码失真度。本发明中，将空间域内像素残差计算转换为频域系数残差计算，仅靠频域数据的残差关系即可完成编码失真度的计算，缩短了残差计的延时，削减了内存同步缓冲空间，为硬件实现带来了便利。
【专利说明】
计算编码失真度和编码模式控制的方法及其系统
技术领域
[0001] 本发明涉及视频编码和处理领域，特别涉及计算编码失真度和编码模式控制的方 法及其系统。
【背景技术】
[0002] JVT (Joint Video Team)的会议文档里提议采用基于Lagrangian优化算法的率 失真编码模式控制模型来实现视频编码的模式控制策略，考虑K个信源样本值的集合S = (S1,…，Sli)，宏块S1,的Lagrangian代价函数如下：
[0003]
[0004] 其中，Ik为相应宏块的編码模式，Q为量化参数，λ M(]DE为Lagrangian参数。D REC为 编码失真度，RREe为编码后码流的码率。
[0005] 生直庶笪有2种i+笪方忒，g卩即绝对差分和SAD以及差分平方和SSD :
[0006]
[0007]
[0008] 其中，A为当前宏块，s[x, y, t]为当前编码宏块的像素值，p[x, y, t]为当前编码宏 块相应的预测值，r[x，y，t]为当前编码宏块相应的重建值。
[0009] SAD只需要计算当前编码宏块和预测值之间的残差，计算过程简单，SSD的残差计 算需要重建值，而重建值的获取需要经过预测，频域正变换，量化，反量化，频域逆变换，重 建等一系列复杂的AVC编码计算过程。但是，SSD相比SAD更加准确的反应了编码失真度， 模式选择的准确度显著提升，编码性能也得到相应的提升。基于SSD的计算过程将带来复 杂的运算逻辑和严重的数据计算通路延时这个现实，目前主流编码器都放弃了编码性能显 著提升的RDO策略，而普遍采用SAD/SATD的模式选择。

【发明内容】

[0010] 本发明的目的在于提供一种计算编码失真度和编码模式控制的方法及其系统，将 SSD的计算过程进行相应的优化，在保留SSD算法优势的前提下，极大地降低了运算复杂度 和缓冲区空间，并相应提升算法精确度和计算准确性。
[0011] 为解决上述技术问题，本发明的实施方式公开了一种计算编码失真度的方法，预 设有系数矩阵Ef，该方法包括以下步骤：
[0012] 根据编码宏块的像素值以及在当前预测模式下的预测像素值计算预测残差值，并 获取所述预测残差值经过离散余弦变换后输出的DCT系数X ;
[0013] 获取所述DCT系数X经过量化和反量化处理后输出的频域系数Y ;
[0014] 对所述DCT系数X经所述预设系数矩阵Ef调整后的频域系数和所述频域系数Y进 行残差计算；
[0015] 对所述残差计算结果进行反离散余弦变换，并根据所述反离散余弦变换的输出得 出当前预测模式下的编码失真度。
[0016] 本发明的实施方式还公开了一种编码模式控制方法，包括以下步骤：
[0017] 根据上述编码失真度的计算方法得到的当前预测模式下的编码失真度，以及当前 预测模式下的编码码率，计算当前预测模式下的编码代价值；
[0018] 在所有可选预测模式集中将对应于最小编码代价值的预测模式作为编码宏块的 最优预测模式，用于编码宏块的编码。
[0019] 本发明的实施方式还公开了一种计算编码失真度的系统，预设有系数矩阵Ef，该 系统包括以下模块：
[0020] DCT系数获取模块，用于获取预测残差值经过离散余弦变换后输出的DCT系数X， 所述预测残差值是根据编码宏块的像素值以及在当前预测模式下的预测像素值计算得到 的；
[0021] 反量化输出频域系数获取模块，用于获取所述DCT系数X经过量化和反量化处理 后输出的频域系数Y ;
[0022] 逻辑运算模块，用于对所述DCT系数X经所述预设系数矩阵Ef调整后的频域系数 和所述频域系数Y进行残差计算；
[0023] 反离散余弦变换模块，用于对所述残差计算结果进行反离散余弦变换，并根据所 述反离散余弦变换的输出得出当前预测模式下的编码失真度。
[0024] 本发明的实施方式还公开了一种编码模式控制系统，包括以下模块：
[0025] 编码代价值计算模块，用于根据上述计算编码失真度的系统得到的当前预测模式 下的编码失真度，以及当前预测模式下的编码码率，计算当前预测模式下的编码代价值；
[0026] 最优预测模式确定模块，用于在所有可选预测模式集中将对应于最小编码代价值 的预测模式作为编码宏块的最优预测模式，用于编码宏块的编码。
[0027] 本发明实施方式与现有技术相比，主要区别及其效果在于：
[0028] 将标准SSD计算空间域内像素残差的方法转换成了频域系数残差的计算，仅需依 赖于频域数据的残差关系即可完成编码失真度的计算，避免了预测模块，预测残差计算模 块，重建模块，DCT模块和IDCT模块在计算通路中的延时，从而从整体上缩短了残差计算的 延时，削减了内存同步缓冲空间，为硬件实现带来了极大的便利。
[0029] 利用改进的编码失真度的计算方法引入到编码模式控制中，编码模式选择的准确 度显著提升。
[0030] 进一步地，根据反量化系数矩阵的比特位宽的余量，对预设系数矩阵Ef进行放大， 能够保证计算准确性。
【附图说明】
[0031] 图1是本发明第一实施方式中一种计算编码失真度的方法的流程示意图；
[0032] 图2(a)是现有技术中标准的SSD计算方法的流程示意图，图2(b)是本发明第一 实施方式中SSD失真度计算方法的流程示意图；
[0033] 图3是本发明第三实施方式中一种编码模式控制方法的流程示意图；
[0034] 图4是本发明第四实施方式中一种计算编码失真度的系统的结构示意图；
[0035] 图5是本发明第六实施方式中一种编码模式控制系统的结构示意图。
【具体实施方式】
[0036] 在以下的叙述中，为了使读者更好地理解本申请而提出了许多技术细节。但是，本 领域的普通技术人员可以理解，即使没有这些技术细节和基于以下各实施方式的种种变化 和修改，也可以实现本申请各权利要求所要求保护的技术方案。
[0037] 为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明的实施 方式作进一步地详细描述。
[0038] 本发明第一实施方式涉及一种计算编码失真度的方法，图1是该计算编码失真度 的方法的流程示意图。
[0039] 具体地说，如图1所示，该计算编码失真度的方法预设有系数矩阵Ef，该方法包括 以下步骤：
[0040] 步骤101，根据编码宏块的像素值以及在当前预测模式下的预测像素值计算预测 残差值，并获取所述预测残差值经过离散余弦变换后输出的DCT系数X ;
[0041 ] 步骤102,获取DCT系数X经过量化和反量化处理后输出的频域系数Y ;
[0042] 步骤103,对DCT系数X经预设系数矩阵Ef调整后的频域系数和频域系数Y进行 残差计算；
[0043] 步骤104,对所述残差计算结果进行反离散余弦变换，并根据所述反离散余弦变换 的输出得出当前预测模式下的编码失真度。
[0044] 在AVC视频编码标准中，编码的结构还是以传统的编码框架为基础，即编码器根 据图像内容，采用率失真优化（其中，率失真优化即是在限比特率为R的条件下，即R值不 能超过信道传输率，选择最佳编码模式，使得失真度最小）的方法，在帧内和帧间众多可选 的编码模式（或称预测模式）中选取最佳的模式，对每一种编码模式都要计算其失真度和 比特率。
[0045] 其中，失真度的计算有两种方式，即绝对差分和SAD以及差分平方和SSD。相比 基于SAD的编码模式控制策略在预测和模式选择阶段只需要预测以及残差计算模块，基于 SSD的率失真编码模式控制策略在编码过程中还额外需要DCT变换模块（即离散余弦变 换），量化模块，反量化模块，反DCT变换模块，模式选择模块，重建模块以及复杂的码率估 计模块，更加准确地反应了编码失真度，并且为比特率的精确计算提供了相应的参数，模式 选择的准确度显著提升，从而使编码性能相应大幅提升。
[0046] 但是，如上，基于SSD的率失真编码模式控制策略对于每种编码模式的编码代价 值的计算过程必须通过预测模块，残差计算模块，DCT变换模块，量化模块，反量化模块，反 DCT变换模块，模式选择模块以及重建模块等一条冗长的数据计算通路，存在较大的数据通 路延时。
[0047] 而本实施方式中采用所述步骤101至步骤104的方法计算编码失真度则是基于理 论推导对数据通路延时进行了优化。具体地说：
[0048] 在AVC编码器架构中，标准的SSD计算方法的流程示意图如图2 (a)所示，SSD的 算法原型如下：
[0049]
[0050] 其中，Rec(X，y)为编码通路的重建结果，需要经过像素值的（帧内或帧间）预测， 预测残差计算，DCT频域正变换，量化Q计算，反量化IQ计算，DCT频域逆变换，像素值的重 建等一系列复杂的计算过程得到。
[0051] 首先，根据图2(a)，对SSD原型计算公式做如下推导：
[0052]
[0053] 其中，Cmb(x，y)为当前宏块的像素值，Pred(X，y)为对应预测模式的预测结果， Rec (x，y)为对应预测模式的重建结果，DifT (x，y)为预测残差计算模块DIFF的输出结果， Diff'（X，y)为DCT频域逆变化模块IDCT的输出结果。
[0054] 通过该推导发现，计算SSD失真度时可以避免（帧间或帧内）预测模块，残差计算 模块，重建模块在原本的SSD的编码代价值的计算通路中的延时，缩减了数据通路的部分 延时。
[0055] 其次，进一步针对Diff'（X，y) -Diff (X，y)进行处理，具体处理过程如下：
[0056] 根据AVC数据处理特点，将Diff'（X，y)具体描述为4x4的块矩阵D'，而将 Diff (X，y)描述为4x4的块矩阵D，这样Diff'（X，y) -Diff (X，y)的计算过程被具体化成一 个亮度宏块内部16个4x4块矩阵（对于色度宏块则是8个4x4块矩阵）的相应运算，公式 推导过程如下：
[0057] D，-D = E (D，-D) E
[0058] 其中，E为单位矩阵，分解如下：
[0059] E = AAt= A tA
[0060] 其中，A为正交矩阵，得到；
[0061] D，-D = AtA (D，-D) AtA
[0062] 这里，根据正交矩阵的特性，对A进行如下两种分解构造：
[0063]
[0064]
[0065] 其中，P。为AVC标准中DCT频域逆变换的变化矩阵，P AVC标准中DCT频域正 变换矩阵。
[0066] 基于前面的分解，得到如下公式：
[0067]
[0068] 其中，根据主对角矩阵特性，可以得到：
[0069]
[0070] 将公式
1的 W-戦，进行拆分：
[0071] (1)针对D'的频域正变换处理如下：
[0072]
[0073] 其中，Y是反量化IQ的输出结果，D'为Y经过IDCT后的输出结果，即
计算得到：
[0074]
[0075] (2) D为DIFF的输出结果，针对D的频域止变换，根据AVC标准定义，应该采用P1 矩阵而不是Pc矩阵，相应处理如下：
[0076]
[0080] 因此，通过上述对D'和D的频域正变换处理，得到如下结论：
[0077]
[0078]
[0079]
[0081]
[0082] 根据对角阵的特性，可将对角阵乘转换成系数矩阵，例如
[0084] 据此，可以将公式简化为如下表达形式：
[0085]
[0086] 此外，从上式可以看出，在步骤103中，所述预设系数矩阵Ef对所述DCT系数X调 整后的频域系数为4，其中0__为矩阵相乘运算。
[0087] 利用上式可以得到如图2(b)所示的本实施方式中SSD失真度计算方法的流程示 意图。
[0088] 相比失真度计算原型SSD标准中将编码宏块的重建值与编码宏块像素值的差分 平方和作为对应编码模式下的编码失真度，如图2(a)所示，该实施方式将残差计算转化成 离散余弦变换的输出X和反量化的输出Y的频域系数残差的计算，如图2(b)所示，从而仅 需依赖于量化和反量化两端的频域数据的残差关系即可完成编码失真度的计算。
[0089] 本实施方式将标准SSD计算空间域内像素残差的方法转换成了频域系数残差的 计算，仅需依赖于频域数据的残差关系即可完成编码失真度的计算，避免了预测模块，预测 残差计算模块，重建模块，DCT模块和IDCT模块在计算通路中的延时，从而从整体上缩短了 残差计算的延时，削减了内存同步缓冲空间，为硬件实现带来了极大的便利。
[0090] 本发明第二实施方式涉及一种计算编码失真度的方法，第二实施方式在第一实施 方式的基础上进行了改进，主要改进之处在于：根据反量化系数矩阵的比特位宽的余量，对 预设系数矩阵E f进行放大，能够保证计算准确性。具体地说：
[0091] 优选地，在所述步骤103中，还包括子步骤：
[0092] 根据所述DCT系数X经过量化和反量化处理时所采用的反量化系数矩阵的比特位 宽的余量，相应地对所述预设系数矩阵E f进行放大处理。
[0093] 此外，可以理解，作上述优化处理主要是考虑到：
[0094] 根据AVC标准定义，反量化系数矩阵V值有6比特位宽的余量来保证DCT逆变换 和像素重建精度，即Y值相当于被放大了 64倍，因此，为了保证计算准确性，需要同样将X 放大64倍。
[0095] 此外，优选地，预设系数矩阵为：
[0096]
[0097] 此外，可以理解，在本发明的其它实施方式中，还包括对预设系数矩阵Ef进行近似 浮点运算的步骤，以便于硬件的移位实现系数乘法运算。
[0098] 例如可以对Ef进行如下的近似，便于硬件的移位实现系数乘法运算：
[0099]
[0100] 下面对图2 (a)和图2 (b)两种计算失真度的方法在数据处理延时及所需内存缓冲 区两个方面进行对比，其中图2(a)为标准SSD计算方法的流程示意图，图2(b)为本发明所 述SSD失真度计算方法的流程不意图：
[0101] 对于图2 (a)，参照标准SSD计算结构描述，对标准SSD计算进行具体量化描述：
[0102] (1)编码预测数据和当前宏块数据同时送入DIFF模块进行预测残差值得计算，其 吞吐率为1x4 (pixels/cycle)，寄存器输出有Icycle的延时；
[0103] (2)预测残差进入DCT模块进行频域正向变换，其吞吐率为lx4(pixels/cycle)， 因为要完成二维的DCT变换因此需要两次转置来寄存数据，寄存器输出有8cy Cle的延时；
[0104] (3)量化，反量化，吞吐率为lx4(pixels/cycle)，寄存器输出各有Icycle的延 时；
[0105] (4) IDCT模块进行频域逆向变换，其吞吐率和寄存器延时同DCT ;
[0106] (5)REC模块完成像素的重建工作，其吞吐率为lX4(piXel S/CyCle)，寄存器输出 有Icycle的延时。
[0107] 综上所述，从第一行lx4pixels输入到完成一个4x4块的SSD的计算需要24个 cycle，CMB至少需要20级的内存缓冲区，以此来确保失真度的正确计算。
[0108] 对于图2(b)，采用本发明提出计算频域残差的方法，可以直观的从图2(b)看到整 个计算过程不再需要经过DIFF模块，REC模块，DCT/IDCT模块，而仅仅依赖于Q/IQ两端的 频域数据的残差关系，采用上述的量化分析方法，可以得到如下结论：完成一个4x4块SSD 的计算需要15个cycle，仅仅2级的内存缓冲区就可以完成失真度的计算。
[0109] 从数据对比来看，本实施方式所述的计算编码失真度的方法在数据延时和内存缓 冲方面的效果是很明显的，相较标准的SSD计算结构，有效的缩短了残差计算的延时，削减 了内存同步缓冲空间，为硬件实现带来了极大的便利。
[0110] 本发明第三实施方式涉及一种编码模式控制方法，图3是该编码模式控制方法的 流程示意图。
[0111] 具体地说，如图3所示，该编码模式控制方法包括以下步骤：
[0112] 步骤301，根据如前述编码失真度的计算方法得到的当前预测模式下的编码失真 度，以及当前预测模式下的编码码率，计算当前预测模式下的编码代价值。
[0113] 步骤302,在所有可选预测模式集中将对应于最小编码代价值的预测模式作为编 码宏块的最优预测模式，用于编码宏块的编码。
[0114] 本实施方式利用改进的编码失真度的计算方法引入到编码模式控制中，编码模式 选择的准确度显著提升。
[0115] 本发明的各方法实施方式均可以以软件、硬件、固件等方式实现。不管本发明是 以软件、硬件、还是固件方式实现，指令代码都可以存储在任何类型的计算机可访问的存储 器中（例如永久的或者可修改的，易失性的或者非易失性的，固态的或者非固态的，固定的 或者可更换的介质等等）。同样，存储器可以例如是可编程阵列逻辑（Programmable Array Logic，简称"PAL"）、随机存取存储器（Random Access Memory，简称"RAM"）、可编程只读存 储器（Programmable Read Only Memory，简称 "PROM"）、只读存储器（Read-Only Memory， 简称"ROM")、电可擦除可编程只读存储器（Electrically Erasable Programmable ROM，简 称"EEPR0M"）、磁盘、光盘、数字通用光盘（Digital Versatile Disc，简称"DVD"）等等。
[0116] 本发明第四实施方式涉及一种计算编码失真度的系统，图4是该计算编码失真度 的系统的结构示意图。
[0117] 具体地说，该计算编码失真度的系统预设有系数矩阵Ef，该系统包括以下模块：
[0118] DCT系数获取模块，用于获取预测残差值经过离散余弦变换后输出的DCT系数X， 所述预测残差值是根据编码宏块的像素值以及在当前预测模式下的预测像素值计算得到 的；
[0119] 反量化输出频域系数获取模块，用于获取所述DCT系数X经过量化和反量化处理 后输出的频域系数Y ;
[0120] 逻辑运算模块，用于对所述DCT系数X经所述预设系数矩阵Ef调整后的频域系数 和所述频域系数Y进行残差计算；
[0121] 反离散余弦变换模块，用于对所述残差计算结果进行反离散余弦变换，并根据所 述反离散余弦变换的输出得出当前预测模式下的编码失真度。
[0122] 本实施方式将标准SSD计算空间域内像素残差的方法转换成了频域系数残差的 计算，仅需依赖于频域数据的残差关系即可完成编码失真度的计算，避免了预测模块，预测 残差计算模块，重建模块，DCT模块和IDCT模块在计算通路中的延时，从而从整体上缩短了 残差计算的延时，削减了内存同步缓冲空间，为硬件实现带来了极大的便利。
[0123] 第一实施方式是与本实施方式相对应的方法实施方式，本实施方式可与第一实施 方式互相配合实施。第一实施方式中提到的相关技术细节在本实施方式中依然有效，为了 减少重复，这里不再赘述。相应地，本实施方式中提到的相关技术细节也可应用在第一实施 方式中。
[0124] 本发明第五实施方式涉及一种计算编码失真度的系统，第五实施方式在第四实施 方式的基础上进行了改进，主要改进之处在于：根据反量化系数矩阵的比特位宽的余量，对 预设系数矩阵E f进行放大，能够保证计算准确性。具体地说：
[0125] 优选地，在逻辑运算模块中，预设系数矩阵Ef对DCT系数X调整后的频域系数为 1_ 0 ，其中發为矩阵相乘运算。
[0126] 优选地，在逻辑运算模块中，还包括子模块：
[0127] 位宽余量对齐子模块，用于根据所述DCT系数X经过量化和反量化处理时所采用 的反量化系数矩阵的比特位宽的余量，相应地对所述预设系数矩阵E f进行放大处理。
[0128] 优选地，预设系数矩阵Ef为：
[0129]
[0130] 第二实施方式是与本实施方式相对应的方法实施方式，本实施方式可与第二实施 方式互相配合实施。第二实施方式中提到的相关技术细节在本实施方式中依然有效，为了 减少重复，这里不再赘述。相应地，本实施方式中提到的相关技术细节也可应用在第二实施 方式中。
[0131] 本发明第六实施方式涉及一种编码模式控制系统，图5是该编码模式控制系统的 结构示意图。
[0132] 具体地说，如图5所示，该编码模式控制系统包括以下模块：
[0133] 编码代价值计算模块，用于根据前述计算编码失真度的系统得到的当前预测模式 下的编码失真度，以及当前预测模式下的编码码率，计算当前预测模式下的编码代价值；
[0134] 最优预测模式确定模块，用于在所有可选预测模式集中将对应于最小编码代价值 的预测模式作为编码宏块的最优预测模式，用于编码宏块的编码。
[0135] 本实施方式利用改进的编码失真度的计算方法引入到编码模式控制中，编码模式 选择的准确度显著提升。
[0136] 第三实施方式是与本实施方式相对应的方法实施方式，本实施方式可与第三实施 方式互相配合实施。第三实施方式中提到的相关技术细节在本实施方式中依然有效，为了 减少重复，这里不再赘述。相应地，本实施方式中提到的相关技术细节也可应用在第三实施 方式中。
[0137] 本发明属于视频编码和处理领域，具体涉及一种AVC率失真算法的优化计算方 法，尤其是针对实现的复杂度和缓冲空间进行优化。
[0138] 本发明要解决的技术问题是针对标准SSD计算带来的运算高复杂度和巨大的数 据缓冲空间。
[0139] 根据本发明提供的算法优化方案，在如下几个方面体现优势：
[0140] 1、逻辑复杂度方面：在完全复用标准AVC编码器数据通路的前提下，未引入任何 额外计算逻辑资源，在此基础上，还省去了像素重建过程。
[0141] 2、缓冲空间方面：相比标准SSD计算过程中，两个残差计算节点之间冗长的数据 通路，本算法提供的残差计算节点仅仅是两个相邻模块的数据节点，仅需要标准SSD计算 1/10的内存缓冲空间。
[0142] 3、算法性能方面：标准SSD残差计算，仅有8比特的像素精度，且是在有损的IDCT 变换之后完成；而本算法提供的残差计算在频域计算完成，有更高的位宽精度保证的同时， 残差计算过程在IDCT变换之前，因此，有更高的算法精度和准确性。
[0143] 需要说明的是，本发明各设备实施方式中提到的各模块都是逻辑模块，在物理上， 一个逻辑模块可以是一个物理模块，也可以是一个物理模块的一部分，还可以以多个物理 模块的组合实现，这些逻辑模块本身的物理实现方式并不是最重要的，这些逻辑模块所实 现的功能的组合才是解决本发明所提出的技术问题的关键。此外，为了突出本发明的创新 部分，本发明上述各设备实施方式并没有将与解决本发明所提出的技术问题关系不太密切 的模块引入，这并不表明上述设备实施方式并不存在其它的模块。
[0144] 需要说明的是，在本专利的权利要求和说明书中，诸如第一和第二等之类的关系 术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示 这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语"包括"、"包含"或者其 任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者 设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、 方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句"包括一个"限定的 要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0145] 虽然通过参照本发明的某些优选实施方式，已经对本发明进行了图示和描述，但 本领域的普通技术人员应该明白，可以在形式上和细节上对其作各种改变，而不偏离本发 明的精神和范围。
【主权项】
1. 一种计算编码失真度的方法，其特征在于，预设有系数矩阵E f，该方法包括W下步 骤： 根据编码宏块的像素值W及在当前预测模式下的预测像素值计算预测残差值，并获取 所述预测残差值经过离散余弦变换后输出的DCT系数X ; 获取所述DCT系数X经过量化和反量化处理后输出的频域系数Y ; 对所述DCT系数X经所述预设系数矩阵Ef调整后的频域系数和所述频域系数Y进行 残差计算； 对所述残差计算结果进行反离散余弦变换，并根据所述反离散余弦变换的输出得出当 前预测模式下的编码失真度。2. 根据权利要求1所述的编码失真度的计算方法，其特征在于，在所述"对所述DCT系 数X经所述预设系数矩阵Ef调整后的频域系数和所述频域系数Y进行残差计算"的步骤 中，所述预设系数矩阵Ef对所述DCT系数X调整后的频域系数为X?心f，其中为矩阵相 乘运算。3. 根据权利要求2所述的计算编码失真度的方法，其特征在于，在所述中"对所述DCT 系数X经所述预设系数矩阵Ef调整后的频域系数和所述频域系数Y进行残差计算"的步骤 中，还包括子步骤： 根据所述DCT系数X经过量化和反量化处理时所采用的反量化系数矩阵的比特位宽的 余量，相应地对所述预设系数矩阵Ef进行放大处理。4. 根据权利要求3所述的计算编码失真度的方法，其特征在于，所述预设系数矩阵E f 为：5. -种编码模式控制方法，其特征在于，包括W下步骤： 根据如权利要求1至4中任一项所述的编码失真度的计算方法得到的当前预测模式下 的编码失真度，W及当前预测模式下的编码码率，计算当前预测模式下的编码代价值； 在所有可选预测模式集中将对应于最小编码代价值的预测模式作为编码宏块的最优 预测模式，用于所述编码宏块的编码。6. -种计算编码失真度的系统，其特征在于，预设有系数矩阵E f，该系统包括W下模 块： DCT系数获取模块，用于获取预测残差值经过离散余弦变换后输出的DCT系数X，所述 预测残差值是根据编码宏块的像素值W及在当前预测模式下的预测像素值计算得到的； 反量化输出频域系数获取模块，用于获取所述DCT系数X经过量化和反量化处理后输 出的频域系数Y ; 逻辑运算模块，用于对所述DCT系数X经所述预设系数矩阵Ef调整后的频域系数和所 述频域系数Y进行残差计算； 反离散余弦变换模块，用于对所述残差计算结果进行反离散余弦变换，并根据所述反 离散余弦变换的输出得出当前预测模式下的编码失真度。7. 根据权利要求6所述的计算编码失真度的系统，其特征在于，在所述逻辑运算模块 中，所述预设系数矩阵Ef对所述DCT系数X调整后的频域系数为，其中@为矩阵相 乘运算。8. 根据权利要求7所述的计算编码失真度的系统，其特征在于，在所述逻辑运算模块 中，还包括子模块： 位宽余量对齐子模块，用于根据所述DCT系数X经过量化和反量化处理时所采用的反 量化系数矩阵的比特位宽的余量，相应地对所述预设系数矩阵Ef进行放大处理。9. 根据权利要求8所述的计算编码失真度的系统，其特征在于，所述预设系数矩阵E f 为：10. -种编码模式控制系统，其特征在于，包括W下模块： 编码代价值计算模块，用于根据如权利要求6至9中任一项所述的计算编码失真度的 系统得到的当前预测模式下的编码失真度，W及当前预测模式下的编码码率，计算当前预 测模式下的编码代价值； 最优预测模式确定模块，用于在所有可选预测模式集中将对应于最小编码代价值的预 测模式作为编码宏块的最优预测模式，用于所述编码宏块的编码。
【文档编号】H04N19/147GK106034238SQ201510106648
【公开日】2016年10月19日
【申请日】2015年3月11日
【发明人】章旭东, 张磊, 林洪周, 黄畅, 钱学锋, 徐宁
【申请人】杭州海康威视数字技术股份有限公司, 上海富瀚微电子股份有限公司